Lo ngại AI “chẩn đoán sai”: Google giảm mạnh tóm tắt tự động với truy vấn y tế

Với một truy vấn đơn giản từ Google, người dùng có thể tìm thấy câu trả lời cho hầu hết mọi câu hỏi: từ cách sửa một chiếc máy giặt cho đến thông tin về những căn bệnh phức tạp. Khi trí tuệ nhân tạo (AI) được tích hợp sâu hơn vào công cụ tìm kiếm, tham vọng của Google càng trở nên rõ ràng: không chỉ dẫn đường đến thông tin, mà trực tiếp tóm tắt và “giải thích” thay cho người dùng.

Tuy nhiên, khi AI bắt đầu chạm vào lĩnh vực nhạy cảm nhất đó là sức khỏe con người. Mới đây, Google đã bắt đầu hạn chế hiển thị các phần tóm tắt bằng AI đối với những truy vấn liên quan đến sức khỏe, sau khi hàng loạt chuyên gia y tế và tổ chức độc lập lên tiếng cảnh báo về nguy cơ gây hại nghiêm trọng cho người dùng.

Quyết định này được đưa ra trong bối cảnh một loạt phát hiện từ tờ The Guardian cho thấy các kết quả tổng hợp do AI tạo ra không chỉ thiếu chính xác, mà trong một số trường hợp còn có thể đẩy người bệnh vào những lựa chọn nguy hiểm. Đây không chỉ là câu chuyện về lỗi công nghệ, mà còn là hồi chuông cảnh tỉnh về cách chúng ta đang giao phó niềm tin cho các hệ thống AI trong những vấn đề sống còn.

Mua Phần Mềm Bản Quyền Chính Hãng Giá Rẻ

Trong lĩnh vực design và trải nghiệm người dùng, việc rút ngắn hành trình tiếp cận thông tin luôn được xem là mục tiêu tối thượng. Tính năng tóm tắt bằng AI của Google thường xuất hiện ở đầu trang kết quả tìm kiếm là minh chứng rõ ràng cho triết lý này. Thay vì phải đọc nhiều bài viết, so sánh các nguồn khác nhau, người dùng chỉ cần một cái nhìn là có thể nắm được “câu trả lời tổng quát”.

Ở những lĩnh vực như du lịch, nấu ăn hay mẹo vặt đời sống, cách tiếp cận này có thể mang lại lợi ích rõ rệt. Nhưng với y tế và sức khỏe, nơi mỗi cá nhân có tình trạng bệnh lý, tiền sử và cơ địa khác nhau, việc đơn giản hóa thông tin đôi khi lại là con dao hai lưỡi.

Vấn đề không nằm ở việc AI “nói sai” một cách hoàn toàn, mà ở chỗ nó nói sai một cách rất thuyết phục. Ngôn ngữ mạch lạc, giọng điệu trung tính và cách trình bày gọn gàng khiến người dùng dễ dàng tin rằng đây là thông tin đã được kiểm chứng, mang tính “kết luận cuối cùng”. Trong khi thực tế, đó chỉ là sự tổng hợp xác suất từ dữ liệu huấn luyện, không phải lời khuyên y khoa cá nhân hóa.

1. Google bắt đầu hạn chế hiển thị AI cho các tìm kiếm sức khỏe

Sau khi các cảnh báo từ giới chuyên gia ngày càng dồn dập, Google đã xác nhận rằng họ đã và đang loại bỏ một số phần tóm tắt bằng AI khỏi các truy vấn liên quan đến sức khỏe. Điều này đánh dấu một bước lùi đáng chú ý trong chiến lược AI Search vốn được quảng bá mạnh mẽ trong thời gian qua.

Theo ghi nhận, nhiều truy vấn từng hiển thị phần tóm tắt tự động nay chỉ còn dẫn về các liên kết truyền thống, buộc người dùng phải tự đọc và đối chiếu thông tin từ các nguồn khác nhau. Google cũng nhấn mạnh rằng, dù AI có hỗ trợ như thế nào, người dùng vẫn nên tham khảo ý kiến chuyên gia hoặc bác sĩ trước khi làm theo bất kỳ thông tin y tế nào.

Tuy nhiên, động thái này không đồng nghĩa với việc Google từ bỏ hoàn toàn tham vọng AI trong lĩnh vực sức khỏe. Thay vào đó, nó phản ánh một sự thừa nhận hiếm hoi: AI hiện tại vẫn chưa đủ an toàn để đứng ở vị trí “người trả lời trực tiếp” cho các câu hỏi y khoa.

2. Những ví dụ gây sốc

Những phát hiện từ The Guardian đã chỉ ra hàng loạt trường hợp mà các phần tóm tắt bằng AI của Google đưa ra thông tin không chính xác, thậm chí đi ngược lại khuyến nghị y khoa chính thống.

2.1. Ung thư tuyến tụy và lời khuyên sai lầm về chế độ ăn

Một trong những ví dụ nghiêm trọng nhất liên quan đến ung thư tuyến tụy, một căn bệnh vốn đã có tỷ lệ tử vong cao và yêu cầu chế độ chăm sóc đặc biệt. Phần tóm tắt AI của Google từng khuyên người bệnh tránh các thực phẩm giàu chất béo.

Tuy nhiên, các chuyên gia y tế nhanh chóng bác bỏ thông tin này. Trên thực tế, nhiều bệnh nhân ung thư tuyến tụy gặp khó khăn trong việc hấp thụ chất dinh dưỡng và cần chế độ ăn giàu năng lượng, bao gồm cả chất béo, để duy trì thể trạng. Việc cắt giảm chất béo không những không có lợi mà còn làm tăng nguy cơ suy kiệt và tử vong.

Một lời khuyên sai, nếu được tin tưởng tuyệt đối, có thể trở thành yếu tố quyết định giữa sống và chết.

2.2. Xét nghiệm chức năng gan

Không dừng lại ở đó, các tổng hợp AI còn bị phát hiện hiển thị thông tin sai lệch về chỉ số xét nghiệm chức năng gan. Trong một số trường hợp, phần tóm tắt khiến người dùng bao gồm cả những người mắc bệnh gan nghiêm trọng lầm tưởng rằng kết quả của họ hoàn toàn bình thường.

Trong y khoa, việc diễn giải kết quả xét nghiệm không chỉ dựa trên một con số đơn lẻ, mà cần đặt trong bối cảnh tổng thể của bệnh nhân. Việc AI rút gọn và “kết luận thay” bác sĩ đã vô tình xóa bỏ toàn bộ sự phức tạp đó, tạo ra cảm giác an tâm giả tạo cho người bệnh.

2.3. Xét nghiệm ung thư ở nữ giới và nguy cơ bỏ qua triệu chứng

Các kết quả tìm kiếm liên quan đến xét nghiệm ung thư ở nữ giới cũng bị phát hiện chứa thông tin không chính xác. Một số phần tóm tắt AI đưa ra mô tả sai lệch về ý nghĩa của kết quả xét nghiệm, có thể khiến người dùng chủ quan và bỏ qua các triệu chứng quan trọng.

Trong lĩnh vực ung thư, nơi thời gian phát hiện sớm có thể quyết định cơ hội sống sót, việc chậm trễ vì hiểu sai thông tin là rủi ro không thể xem nhẹ.

Trước làn sóng chỉ trích, Google thừa nhận rằng một số tổng hợp AI bị phản ánh sai sót vẫn liên kết tới các nguồn được xem là uy tín. Điều này cho thấy vấn đề không đơn thuần nằm ở chất lượng nguồn, mà ở cách AI diễn giải, chọn lọc và tái cấu trúc thông tin.

Một bài viết y khoa có thể chính xác trong bối cảnh đầy đủ, nhưng khi bị trích xuất một phần, bỏ qua các điều kiện, ngoại lệ và lưu ý quan trọng, nó có thể trở thành thông tin gây hiểu lầm. AI, với mục tiêu tạo ra câu trả lời ngắn gọn và dễ hiểu, thường đánh đổi sự chính xác y khoa lấy sự súc tích.

Google cho biết họ đã tạm thời loại bỏ các phần tóm tắt AI khỏi nhiều câu hỏi tìm kiếm sức khỏe, bao gồm những truy vấn phổ biến như “chỉ số bình thường cho xét nghiệm máu gan là gì?” hay “chỉ số xét nghiệm chức năng gan bình thường là bao nhiêu?”. Đây là những câu hỏi tưởng chừng vô hại, nhưng lại có thể dẫn đến hậu quả nghiêm trọng nếu bị trả lời sai hoặc thiếu ngữ cảnh.

3. Chỉ cần đổi cách hỏi, AI lại xuất hiện

Dù Google đã có động thái hạn chế, nhiều chuyên gia vẫn tỏ ra lo ngại. Lý do nằm ở chỗ: chỉ cần thay đổi nhẹ trong cách đặt câu hỏi, phần tóm tắt AI có thể lại xuất hiện.

Điều này cho thấy việc kiểm soát AI không đơn giản là “bật” hay “tắt” một công tắc. Với hàng triệu biến thể câu hỏi và cách diễn đạt khác nhau, việc đảm bảo rằng mọi truy vấn liên quan đến sức khỏe đều được xử lý an toàn là một thách thức cực lớn.

Đáng chú ý, một số nội dung không chính xác được nêu trong báo cáo ban đầu vẫn chưa bị gỡ bỏ hoàn toàn, bao gồm cả các thông tin liên quan đến ung thư và sức khỏe tâm thần.

Trước khi những sai sót về sức khỏe bị phanh phui, tính năng tóm tắt bằng AI của Google đã từng gây tranh cãi vì hàng loạt nội dung phi lý. Có thời điểm, AI từng khuyên người dùng ăn đá như một cách bổ sung khoáng chất, hoặc thậm chí gợi ý bôi keo lên bánh pizza để phô mai dính chặt hơn.

Những ví dụ này từng được xem là “chuyện cười công nghệ”, phản ánh giai đoạn thử nghiệm chưa hoàn thiện của AI. Tuy nhiên, khi cùng một cơ chế đó được áp dụng cho thông tin y tế, tính chất của vấn đề đã hoàn toàn thay đổi. Không còn là sự hài hước vô hại, mà là nguy cơ ảnh hưởng trực tiếp đến sức khỏe và tính mạng con người.

Việc Google hạn chế tính năng tóm tắt bằng AI cho các tìm kiếm liên quan đến sức khỏe là một bước đi cần thiết, dù có phần muộn màng. Nó cho thấy ngay cả những tập đoàn công nghệ lớn nhất cũng phải đối mặt với giới hạn của AI khi bước vào những lĩnh vực đòi hỏi độ chính xác, đạo đức và trách nhiệm cao.

Trong tương lai, AI vẫn sẽ đóng vai trò quan trọng trong việc hỗ trợ y tế. Nhưng ở thời điểm hiện tại, việc giao phó hoàn toàn thông tin sức khỏe cho các hệ thống tóm tắt tự động là một canh bạc rủi ro.

Đối với người dùng, bài học rút ra là: không có câu trả lời nào trên Google có thể thay thế lời khuyên từ bác sĩ. Và đối với các nhà thiết kế, kỹ sư và nhà phát triển AI, đây là lời nhắc nhở rằng: trải nghiệm tốt không chỉ là nhanh và tiện mà còn phải an toàn và có trách nhiệm.

Mua Phần Mềm Bản Quyền Chính Hãng Giá Rẻ

Công Ty TNHH Phần Mềm SADESIGN

Mã số thuế: 0110083217

Liên Hệ Zalo

Liên Hệ Hotline

Liên Hệ Facebook