31 Đừng dựa vào chatbot AI để tự đoán bệnh hay vấn đề pháp lý. Trước khi đi khám, đi kiện hay bỏ nhiều tiền, hãy tìm nguyên văn căn cứ nó đưa ra và đối chiếu lại
Đưa hồ sơ bệnh đầy đủ cho AI, nó nhận ra đúng bệnh trong hơn chín phần mười trường hợp. Nhưng khi người thường tự hỏi về triệu chứng, họ lại nhận ra bệnh kém hơn người tự tra mạng. Với câu hỏi pháp luật, AI phổ thông bịa nội dung trong ít nhất 58% câu trả lời.
Xem chi tiết
- Chi phí
Không tốn tiền. Mỗi lần đối chiếu mất thêm vài phút đến nửa tiếng. Hãy yêu cầu AI nêu điều luật, hướng dẫn hay bài báo mà nó dựa vào, rồi tự mở nguyên văn và tìm đúng câu đó. Thói quen cần đổi là đừng làm theo chỉ vì nó nói rất chắc chắn.
- Lợi ích
Trước hết xem chuyện khám bệnh. Năm 2026, Nature Medicine đăng một thử nghiệm chia nhóm ngẫu nhiên, đã đăng ký phương án trước, với 1.298 người dân Anh. Mỗi người nhận hai hồ sơ bệnh được soạn sẵn, phải đoán bệnh là gì và nên đi cấp cứu hay theo dõi tại nhà. Một nhóm dùng chatbot AI hỗ trợ, gồm GPT-4o, Llama 3 và Command R+. Nhóm đối chứng dùng cách quen thuộc của họ, chủ yếu là tìm trên mạng hoặc xem trang của Dịch vụ Y tế Quốc gia Anh (NHS). Khi đưa thẳng hồ sơ đầy đủ cho AI, nó nhận ra bệnh liên quan trong 94,9% trường hợp, và chọn đúng nơi nên khám trong 56,3%. Còn khi người dùng tự hỏi AI, tỷ lệ nhận ra bệnh liên quan dưới 34,5%, và chọn đúng nơi khám dưới 44,2%. Nhóm đối chứng có cơ hội nhận ra bệnh liên quan cao gấp 1,76 lần nhóm dùng AI (95% CI 1,45–2,13, khoảng tin cậy). Cơ hội nhận ra các bệnh nặng có dấu hiệu nguy hiểm cao gấp 1,57 lần (1,28–1,92). Về việc nên đi khám ở đâu, hai nhóm gần như ngang nhau. Nhóm tác giả đọc lại các đoạn hội thoại và thấy hai vấn đề: người dùng không kể đủ triệu chứng, và AI đã nêu đúng bệnh nhưng người dùng không làm theo. Về pháp luật: năm 2024, một nhóm nghiên cứu Mỹ hỏi các mô hình công khai như ChatGPT 4 về án lệ của tòa án liên bang Mỹ. ChatGPT 4 có 58% câu trả lời bịa, còn Llama 2 lên tới 88%. Bịa ở đây là nội dung không khớp với sự kiện pháp lý thật, và bài báo gọi đó là "ảo giác". Mô hình không phân biệt được câu nào của nó là bịa. Khi câu hỏi của người dùng có tiền đề pháp lý sai, nó thường thuận theo. Cùng nhóm nghiên cứu năm 2025 thử các công cụ AI pháp lý chuyên dụng mà luật sư dùng. Các công cụ này tự nhận không bịa, nhưng thực tế 17% đến 33% câu trả lời vẫn có nội dung bịa. Nó trông có vẻ đáng giá vì AI có mặt bất cứ lúc nào, không thu tiền, lại nói chắc nịch như bác sĩ hay luật sư.
- Mức chứng cứ
A
- Nguồn
Bean AM, Payne RE, Parsons G, et al. (2026). Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine, 32(2), 609–615. https://doi.org/10.1038/s41591-025-04074-y; Dahl M, Magesh V, Suzgun M, Ho DE (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16(1), 64–93. https://doi.org/10.1093/jla/laae003; Magesh V, Surani F, Dahl M, Suzgun M, Manning CD, Ho DE (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2), 216–242. https://doi.org/10.1111/jels.12413; Kalai AT, Nachum O, Vempala SS, Zhang E (2025). Why Language Models Hallucinate. arXiv:2509.04664 (bản preprint, mục này nằm trong Ghi chú). https://arxiv.org/abs/2509.04664; Quan điểm trái chiều: Ayers JW, Poliak A, Dredze M, et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine, 183(6), 589. https://doi.org/10.1001/jamainternmed.2023.1838
- Ghi chú
Chỉ tham khảo TQ: Tranh cãi. Năm 2023, một nghiên cứu lấy 195 câu hỏi của bệnh nhân từ một diễn đàn Mỹ, nhờ nhân viên y tế chấm điểm mà không biết nguồn. 78,6% điểm chấm cho rằng ChatGPT trả lời tốt hơn bác sĩ. Nhưng nghiên cứu này chỉ so sánh câu trả lời viết hay hay dở, không xem người hỏi cuối cùng có đưa ra phán đoán đúng hay không. Thử nghiệm năm 2026 dùng mô hình năm 2024, mô hình mới có thể mạnh hơn. Tuy vậy, chính thử nghiệm đó cũng cho thấy điểm thi của AI khi làm bài một mình không dự đoán được hiệu quả khi người thường dùng nó. Vì sao AI bịa, nhà nghiên cứu OpenAI năm 2025 giải thích trong một bài chưa qua bình duyệt đồng nghiệp. Cách huấn luyện và chấm điểm thưởng cho việc "đoán một đáp án", còn trả lời "không biết" thì không được điểm, nên khi không chắc, AI vẫn nói rất quả quyết. Cách kiểm tra: yêu cầu AI nêu tên điều luật và số điều, hoặc tên hướng dẫn và bài báo, rồi tự mở trang chính thức để tìm câu đó. Không thấy thì coi như nó chưa từng nói. Khi hỏi, đừng đưa kết luận của bạn vào. Hãy hỏi "trường hợp này pháp luật quy định thế nào", đừng hỏi "tôi có chắc thắng không". Các dấu hiệu như miệng méo, một bên tay chân yếu, đau tức đè nặng ở ngực thì đừng hỏi AI trước, hãy gọi 120 ngay. Xem phần 13, mục 3 (miệng méo, một bên tay yếu) và phần 13, mục 7 (đau tức đè nặng ở ngực). Nếu đi kiện mà không có tiền thuê luật sư, xem phần 7, mục 3 (xin trợ giúp pháp lý). Lợi ích định mức thấp, vì mới chỉ có chỉ số trung gian như "có nhận ra bệnh hay không", chưa có con số nào cho thấy giảm được số người chết. Người hưởng lợi là chính bạn và người nhà.