Google AI bị cáo buộc tư vấn y tế sai, có thể làm chết người
Tính năng tóm tắt bằng AI của Google đưa ra chỉ dẫn sai lệch cho bệnh nhân ung thư tụy, bệnh gan, có thể dẫn đến tử vong, theo điều tra của tờ Guardian.
Kết quả một cuộc điều tra của tờ The Guardian hôm 2/1 tiết lộ thông tin y tế sai lệch và gây nhầm lẫn trong các bản tóm tắt bằng trí tuệ nhân tạo (AI) của Google đang đặt người dùng trước nhiều rủi ro sức khỏe nghiêm trọng.
Trong một trường hợp được các chuyên gia đánh giá là "đặc biệt nguy hiểm", Google đã khuyên bệnh nhân ung thư tụy tránh thực phẩm giàu chất béo. Song các chuyên gia y tế cho rằng đây là chỉ định hoàn toàn ngược lại với phác đồ cần thiết, có khả năng làm tăng nguy cơ tử vong ở bệnh nhân. Bà Anna Jewell, Giám đốc hỗ trợ và nghiên cứu tại Tổ chức Ung thư Tụy Anh quốc (Pancreatic Cancer UK), khẳng định: "Nếu làm theo hướng dẫn trên, bệnh nhân có thể không nạp đủ calo, sụt cân và không đủ thể trạng để đáp ứng hóa trị hoặc các ca phẫu thuật cứu sống tính mạng".
Một ví dụ khác liên quan các chỉ số xét nghiệm chức năng gan. Công cụ AI này đã cung cấp thông tin sai lệch về các xét nghiệm chức năng gan quan trọng, khiến những người mắc bệnh gan nặng lầm tưởng rằng mình vẫn khỏe mạnh. Bà Pamela Healy, Giám đốc điều hành của tổ chức British Liver Trust, nhận định các bản tóm tắt từ AI này là "đáng báo động". Nhiều người mắc bệnh gan không biểu hiện triệu chứng cho đến tận giai đoạn muộn và đó là lý do vì sao việc xét nghiệm có ý nghĩa sống còn.
"Những gì Google AI Overviews định nghĩa là 'bình thường' có thể khác biệt rất lớn so với các ngưỡng chỉ số bình thường trong thực tế y khoa", bà nói.
Các kết quả tìm kiếm về xét nghiệm ung thư phụ khoa trên Google cũng đưa ra những thông tin "sai hoàn toàn". Theo các bác sĩ, điều này có thể khiến người bệnh chủ quan và bỏ qua những triệu chứng bệnh lý thực sự.
Giới chuyên môn đánh giá việc ưu tiên hiển thị thông tin sai lệch ở vị trí "mặt tiền" của trang tìm kiếm đe dọa trực tiếp sức khỏe cộng đồng. Bà Stephanie Parker, Giám đốc kỹ thuật số tại tổ chức từ thiện Marie Curie, nhận định người dùng thường tra cứu trong trạng thái lo âu. Việc tiếp nhận thông tin thiếu chính xác hoặc tách rời ngữ cảnh chuyên môn sẽ gây hậu quả khôn lường.
Phản hồi cáo buộc, đại diện Google cho rằng các ví dụ trên chỉ là "ảnh chụp màn hình không đầy đủ". Hãng công nghệ Mỹ khẳng định kết quả luôn dẫn nguồn từ tổ chức uy tín kèm khuyến nghị tham khảo ý kiến chuyên gia. Google nói tính năng AI Overviews, công cụ sử dụng AI tạo sinh để tóm lược thông tin cốt lõi về một chủ đề hay câu hỏi bất kỳ là một tính năng "hữu ích" và "đáng tin cậy".
Cuộc điều tra của The Guardian nối dài chuỗi lo ngại về độ tin cậy của dữ liệu do trí tuệ nhân tạo tạo sinh. Trước đó, một nghiên cứu hồi tháng 11/2024 cũng phát hiện các chatbot AI đưa ra lời khuyên tài chính sai lệch. Các chuyên gia cảnh báo người dùng dễ mặc định tin tưởng dữ liệu từ AI, dẫn đến những quyết định sai lầm trong cả sức khỏe lẫn tài chính.
