Rủi ro từ dữ liệu thiếu tính đại diện, thuật toán khó giải thích đến việc chưa phân định rõ trách nhiệm giữa các bên đang đặt ra những thách thức trong ứng dụng trí tuệ nhân tạo (AI) vào lĩnh vực y tế. Các chuyên gia cho rằng cần xây dựng hệ sinh thái công nghệ y tế có trách nhiệm, trong đó an toàn người bệnh và sự kiểm soát của con người phải được đặt ở vị trí trung tâm.
Những vấn đề này được các chuyên gia trao đổi tại tọa đàm “Thực hành trí tuệ nhân tạo có trách nhiệm trong lĩnh vực y tế: Khung quản trị, chuẩn mực đạo đức và thực tiễn lâm sàng, do Trường Đại học Luật, Đại học Quốc gia Hà Nội tổ chức sáng 11/11, trên cơ sở hợp tác nghiên cứu với Chương trình Aus4Innovation của Australia. Tọa đàm được tổ chức trong khuôn khổ Dự án “Thúc đẩy trí tuệ nhân tạo có trách nhiệm nhằm đóng góp cho sự phát triển bền vững và bao trùm của Việt Nam”.
Rủi ro từ “hộp đen” AI và chất lượng dữ liệu
Chia sẻ tại tọa đàm, Phó Giáo sư, Tiến sỹ Nguyễn Thị Quế Anh, Trường Đại học Luật, Đại học Quốc gia Hà Nội cho biết, AI đang từng bước trở thành công cụ thực tiễn trong hoạt động lâm sàng, được ứng dụng trong chẩn đoán hình ảnh, dự báo rủi ro, y học cá nhân hóa… tại nhiều bệnh viện lớn như Bạch Mai, Chợ Rẫy, Bệnh viện K.
Sự tham gia của AI khiến mô hình giao tiếp y khoa truyền thống giữa bác sỹ và bệnh nhân chuyển sang hệ sinh thái phức tạp hơn, gồm bác sỹ - trí tuệ nhân tạo - bệnh nhân. Điều này làm phát sinh khoảng trống trách nhiệm, đồng thời tiềm ẩn rủi ro khi AI tham gia vào quá trình ra quyết định lâm sàng và có thể đưa ra những khuyến nghị sai lệch.
“Khi có hậu quả nghiêm trọng, có thể hình thành sự ‘đứt gãy’ trong xác định chủ thể chịu trách nhiệm giữa nhà phát triển thuật toán - cơ sở y tế - bác sỹ điều trị,” bà Nguyễn Thị Quế Anh nhận định.
Ở góc độ công nghệ, Phó Giáo sư, Tiến sỹ Lê Thanh Hà, Trường Đại học Công nghệ, Đại học Quốc gia Hà Nội chỉ ra hai thách thức đáng chú ý là tình trạng “hộp đen” trong AI và nguy cơ suy thoái chất lượng dữ liệu.
Theo ông Hà, “hộp đen” là tình trạng bác sỹ khó lý giải cách AI chuyển dữ liệu lâm sàng đầu vào thành một dự đoán hoặc khuyến nghị cụ thể. Trong khi đó, hiệu quả hoạt động của AI phụ thuộc rất lớn vào chất lượng dữ liệu. Trên thực tế, dữ liệu liên tục thay đổi, có thể khiến chất lượng dữ liệu đã có trên hệ thống suy giảm, từ đó ảnh hưởng đến hiệu quả hoạt động của phần mềm.
Một vấn đề khác là dữ liệu không bảo đảm tính bao quát. Nếu dữ liệu chỉ tập trung vào đặc thù của một nhóm cộng đồng, các khuyến nghị của AI có thể không phù hợp khi áp dụng cho những cộng đồng khác. Việc sử dụng AI dựa trên các chỉ số chung cũng có nguy cơ che khuất những trường hợp bệnh hiếm.
“Đây là những thách thức với mọi lĩnh vực khi sử dụng AI nhưng với y tế lại cần đặc biệt chú ý khi tác động trực tiếp đến sức khỏe, tính mạng của con người,” Tiến sỹ Lê Thanh Hà nhấn mạnh.
Từ thực tiễn ngành y, Tiến sỹ Khương Anh Tuấn, Phó Viện trưởng Viện Chiến lược và Chính sách Y tế (Bộ Y tế) cho rằng những thách thức nêu trên đang hiện hữu trong quá trình ứng dụng AI tại Việt Nam.
Ông dẫn chứng, Việt Nam từng tiếp nhận phần mềm sử dụng AI từ Australia phục vụ điều trị ung thư vú nhưng phải xây dựng lại dữ liệu từ đầu do đặc điểm sinh học của người Australia khác với người Việt Nam.
Theo ông Tuấn, hiện nay, phần mềm đang được sử dụng ồ ạt tại các cơ sở y tế nhưng chưa được phân loại rủi ro, phân loại thiết bị. Đây là khoảng trống rất lớn của ngành y tế.
Đạo đức y sinh trong kỷ nguyên số
Bên cạnh những thách thức về công nghệ và dữ liệu, việc xác định trách nhiệm của bác sỹ khi sử dụng AI trong khám, chữa bệnh cũng là vấn đề được các chuyên gia đặc biệt quan tâm.
Phó Giáo sư, Tiến sỹ, bác sỹ Nguyễn Viết Nhung, nguyên Giám đốc Bệnh viện Phổi Trung ương nhấn mạnh, Luật Khám bệnh, chữa bệnh đã quy định rõ bác sĩ là người chịu trách nhiệm trong việc khám, chữa bệnh cho bệnh nhân. AI chỉ đóng vai trò công cụ hỗ trợ, còn bác sỹ phải giải thích được lý do đưa ra các kết luận của mình.
Theo ông Nhung, khi AI ngày càng trở thành công cụ hỗ trợ phổ biến, độ tin cậy của công nghệ này cần được đặt ra một cách nghiêm túc, trong đó có việc đánh giá, phân tầng rủi ro đối với các công nghệ AI. Hiện nay, vấn đề này chủ yếu phụ thuộc vào khuyến nghị của đơn vị cung ứng phần mềm. Bên cạnh đó, việc ứng dụng AI cũng đòi hỏi nâng cao hơn nữa năng lực của đội ngũ bác sĩ.
Từ những vấn đề trên, các chuyên gia cho rằng cần xây dựng hệ sinh thái công nghệ y tế có trách nhiệm, bảo đảm AI được ứng dụng an toàn, minh bạch và có cơ chế kiểm soát phù hợp.
Phó Giáo sư Nguyễn Thị Quế Anh đề xuất hệ thống hóa mô hình phân cấp đạo đức y sinh trong kỷ nguyên số, đồng thời xây dựng cơ chế “đồng trách nhiệm” dựa trên khung chuẩn mực quốc gia nhằm lấp khoảng trống pháp lý, bảo đảm AI vận hành minh bạch, an toàn. Theo bà, cơ chế này sẽ góp phần tránh tình trạng các bên đùn đẩy trách nhiệm, đổ lỗi cho tính tự chủ của thuật toán hoặc dồn toàn bộ trách nhiệm lên bác sĩ trực tiếp thực hiện.
Ở góc độ thiết kế công nghệ, Phó Giáo sư Lê Thanh Hà đề cập yêu cầu bảo đảm đạo đức trong thiết kế thuật toán y khoa. Theo đó, các thuật toán cần được kiểm soát trong suốt vòng đời, có cơ chế giám sát, xử lý các tín hiệu bất thường và bảo đảm thực hiện đầy đủ các nghĩa vụ pháp lý khi triển khai.
Trong khi đó, Tiến sỹ Nguyễn Thị Phương Châm, Trường Đại học Luật, Đại học Quốc gia Hà Nội quan tâm đến vấn đề bảo vệ dữ liệu y tế nhạy cảm của người bệnh. Phó Giáo sư, Tiến sỹ Nguyễn Thị Bích Thảo, cùng công tác tại Trường Đại học Luật, Đại học Quốc gia Hà Nội, khuyến nghị cần thực thi nguyên tắc minh bạch và trách nhiệm giải trình theo tiêu chuẩn Khung đạo đức AI quốc gia.
Theo Phó Giáo sư, Tiến sỹ Nguyễn Tiến Việt, Phó Hiệu trưởng Trường Đại học Luật, Đại học Quốc gia Hà Nội, AI đang mở ra nhiều cơ hội trong lĩnh vực y tế, từ hỗ trợ chẩn đoán, điều trị, nghiên cứu phát triển thuốc đến quản lý bệnh viện và chăm sóc sức khỏe cộng đồng. Tuy nhiên, phát triển và ứng dụng AI trong y tế không đơn thuần là vấn đề công nghệ mà còn đặt ra yêu cầu cấp thiết về đạo đức, pháp luật và quản trị. An toàn người bệnh, tính minh bạch, trách nhiệm giải trình và sự kiểm soát của con người phải được đặt ở vị trí trung tâm.
Vì vậy, cần chuyển hóa các nguyên tắc đạo đức AI theo Khung quốc gia thành những yêu cầu cụ thể, khả thi trong toàn bộ quá trình nghiên cứu, phát triển, cung cấp, triển khai và sử dụng AI trong thực hành lâm sàng./.