Sự thành công của Sepsis Watch – một mô hình deep learning (học sâu) đến từ Đại học Duke, không chỉ đến từ những nỗ lực về mặt kỹ thuật, mà còn cả về mặt xã hội và cảm xúc.

Vào tháng 11 năm 2018, một công cụ deep learning mới đã xuất hiện tại Khoa cấp cứu, Hệ thống Sức khỏe Đại học Duke. Tên công cụ này là Sepsis Watch, và nó được thiết kế để hỗ trợ y bác sỹ phát hiện được các dấu hiệu sốc nhiễm khuẩn từ sớm – một trong những nguyên nhân gây tử vong phổ biến nhất tại bệnh viện.

Sốc nhiễm khuẩn là tình trạng viêm toàn cơ thể phát sinh từ nhiễm trùng, và thậm chí có thể dẫn tới suy đa tạng. Nếu được phát hiện sớm, sốc nhiễm khuẩn có thể được điều trị, xong các dấu hiệu sốc nhiễm khuẩn lại vô cùng khó phát hiện và dễ bị nhầm lẫn với các triệu chứng khác.

Mục tiêu của Sepsis Watch là thay đổi hiện thực này. Sau một quá trình phát triển dài 3 năm rưỡi (bao gồm việc số hóa hồ sơ y tế, phân tích 32 triệu điểm dữ liệu, và thiết kế một giao diện đơn giản dưới dạng ứng dụng trên iPan), sản phẩm này đã có thể đánh giá khả năng xuất hiện sốc nhiễm khuẩn ở các bệnh nhân mỗi tiếng một lần. Sau đó, nó sẽ đánh dấu những người có nguy cơ vừa đến cao, cũng như các bệnh nhân đã có dấu hiệu. Y bác sỹ sau đó sẽ sử dụng kết quả đánh giá này để xác nhận chẩn đoán, và ngay lập tức tiến hành điều trị cho người bệnh.

Sau 2 năm sử dụng Sepsis Watch tại bệnh viện Duke, các quản lý và bác sỹ tại đây đã khẳng định rằng công cụ này có hiệu quả. Cụ thể, nó đã giảm đáng kể số lượng bệnh nhân tử vong do sốc nhiễm khuẩn, và hiện đã được đăng ký như một thử nghiệm lâm sàng toàn quốc, dự kiến có kết quả thử nghiệm vào năm 2021.

Nhìn sơ qua, ta có thể coi đây là một thành công về mặt kỹ thuật, bởi lẽ, mô hình AI này đã cải thiện được năng lực chẩn đoán của y bác sỹ sau một quá trình phát triển và kiểm nghiệm cẩn trọng. Tuy nhiên, một báo cáo từ Viện Nghiên cứu Dữ liệu & Xã hội lại khẳng định rằng, thành công này còn là do nhiều yếu tố khác – cụ thể là các yếu tố nhân lực chuyên môn và xã hội đã được sử dụng để tích hợp thành công mô hình này vào các quy trình điều trị thường nhật, bao gồm: thiết kế các giao thức trao đổi mới, xây dựng các tài liệu huấn luyện mới, và xem xét đánh giá môi trường làm việc cũng như bộ máy nhân sự tại các môi trường này.

Đây cũng là một ví dụ thực tế về các yếu tố mà những công cụ AI cần có để thành công tại thế giới thực. “Thực sự là rất phức tạp,” đồng tác giả Madeleine Clare Elish, một nhà nhân chủng học văn hóa, chuyên nghiên cứu về các ảnh hưởng của AI, đã chia sẻ.

Điều chỉnh lại các đổi mới

Đổi mới thường đi kèm với sự đột phá – chúng làm thay đổi các quy trình cũ để đạt được các kết quả tốt hơn. Tuy nhiên, khi bàn luận về các công nghệ đột phá, ta lại ít khi thừa nhận rằng, đột phá cũng là “phá hoại”. Các giao thức, tiêu chuẩn cũ sẽ trở nên lỗi thời, còn các cấp bậc, tôn ti xã hội thì bị đảo lộn. Do vậy, theo Eish và đồng tác giả Elizabeth Anne Watkins, để việc đổi mới thực sự đem lại hiệu quả trong các hệ thống cũ, ta cần phải “chỉnh lý” lại chúng.

Trong 2 năm nghiên cứu về Sepsis Watch tại Duke, bộ đôi này đã thu thập hàng loạt các ví dụ về đột phá và chỉnh lý. Và họ đã phát hiện ra rằng, một vấn đề chủ chốt mà công cụ này gặp phải là sự phân quyền và cấp bậc từ lâu đã tồn tại giữa các bác sĩ và y tá.

Ở những giai đoạn thiết kế đầu, các nhà nghiên cứu đã nhận ra rằng, các y tá cấp cứu (RRT) sẽ là những người dùng chính của Sepsis Watch. Bởi lẽ, các bác sỹ – người chịu trách nhiệm đánh giá tình trạng và chẩn đoán cho bệnh nhân, có quá nhiều trách nhiệm khác, và vì vậy không có thời gian để liên tục theo dõi ứng dụng. Trái lại, các y tá RRT lại luôn phải kiểm tra tình trạng bệnh nhân và hỗ trợ họ khi cần thiết. Do đó, Sepsis Watch có thể được tích hợp dễ dàng vào quy trình làm việc của y tá.

Tuy nhiên, điều này lại mang tới một trở ngại lớn. Cụ thể, khi ứng dụng phát hiện bệnh nhân có nguy cơ sốc nhiễm khuẩn cao, y tá sẽ phải gọi bác sỹ phụ trách nhiễm khuẩn ở khoa cấp cứu (ED) – người không hề có quan hệ gì với họ trước đó, đồng thời làm việc ở một bộ phận hoàn toàn khác. Sự thay đổi này đã làm xáo trộn tiến trình thông báo thông thường tại bệnh viện, và các y tá cũng đã rất sốc khi biết họ phải đảm nhận việc gọi ED.

Mặc dù vậy, đây vẫn là giải pháp thích hợp nhất, và đội dự án vẫn tiếp tục công cuộc chỉnh lý “đột phá” từ chi tiết tới toàn thể. Các y tá trưởng đã phát triển các phương thức liên lạc mới nhằm giúp việc ED trở nên trơn tru hơn. Ví dụ: Bệnh viện Duke đã quyết định rằng, y tá chỉ cần gọi một cuộc mỗi ngày để thông báo toàn bộ các bệnh nhân có nguy cơ sốc nhiễm khuẩn cao, vào thời điểm bác sỹ phụ trách ít bận rộn nhất.

Ngoài ra, các trưởng dự án cũng liên tục báo cáo lại các ảnh hưởng của Sepsis Watch tới lãnh đạo bệnh viện. Họ cũng nhận ra rằng, không phải y bác sỹ nào cũng cho rằng sốc nhiễm khuẩn là một vấn đề cần chú trọng tại bệnh viện Duke, đặc biệt là các bác sỹ cấp cứu – những người thường quá bận với những ca cấp cứu hàng ngày như gãy xương và bệnh tâm lý. Thậm chí, một số còn cho rằng, Sepsis Watch chỉ gây phiền phức. Tuy nhiên, ban lãnh đạo lại đánh giá cao vai trò của ứng dụng này, và càng hiểu rõ về Sepsis Watch, họ lại càng giúp nó vận hành được trôi chảy hơn.

Thay đổi các chuẩn mực

Theo Elish, có hai yếu tố chính dẫn tới thành công của Sepsis Watch. Thứ nhất, công cụ này được thiết kế sao cho thích hợp với một bối cảnh cụ thể: đó là khoa cấp cứu bệnh viện Duke. “Điều này đã chứng minh rõ ràng rằng, quá trình phát triển là chìa khóa dẫn tới thành công,” bà nói. Luận điểm này đã đi ngược lại với các chuẩn mực AI thông thường.

Thứ hai, xuyên suốt quá trình phát triển, đội ngũ nghiên cứu đã liên tục xin phản hồi của các y bác sỹ, cũng như mọi nhân viên trong môi trường bệnh viện. Điều này không chỉ giúp công cụ này thân thiện hơn với người dùng, mà còn nuôi dưỡng được một đội ngũ nhân viên ủng hộ nó, giúp công cụ vươn tới thành công. Ngoài ra, Sepsis Watch còn được thiết kế bởi chính các bác sỹ của Duke, thay vì bởi các nhà công nghệ tới từ công ty phần mềm. Nói về thành công của Sepsis Watch, Elish đã chia sẻ: “Nếu bạn không thể giải thích được thuật toán của mình, thì bạn cần phải gây dựng niềm tin bằng những phương thức khác.”

Bài học nói trên lại vô cùng thân thuộc với Marzyeh Ghassemi, người sắp trở thành trợ lý giáo sư tại MIT, chuyên nghiên cứu về các ứng dụng machine learning (học máy) cho y tế. “Mọi hệ thống machine learning được thiết kế cho con người, để con người sử dụng, đều phải đảm bảo các yếu tố xã hội – công nghệ,” bà nói. Điều này lại đặc biệt đúng ở môi trường bệnh viện – nơi quyết định của con người ảnh hưởng tới việc chăm sóc những người đang ở trạng thái tệ nhất. “Chúng ta cần để tâm tới các yếu tố và hạn chế về mặt con người và logistic,” Ghassemi bổ sung.

Với công trình Sepsis Watch, Elish hy vọng rằng, các nhà nghiên cứu có thể thay đổi hướng tiếp cận của họ trong nghiên cứu AI cho y tế nói riêng và phát triển AI nói chung. Theo bà, nhiều công trình ở hiện tại chỉ tập trung vào khái niệm và tiềm năng của AI trên giấy, chứ không thực sự đưa các ý tưởng vào thực tiễn. Trong khi đó, nếu muốn phát huy tối đa tiềm năng của AI, thì ta cần phải suy nghĩ cả về phương diện tích hợp xã hội song song với phát triển kỹ thuật.

Ngoài ra, nghiên cứu của bà cũng đã đặt ra nhiều nghi vấn quan trọng. “Để phát triển ra các AI thực sự hiệu quả, ta phải tập trung vào bối cảnh cụ thể ở địa phương ứng dụng,” Elish nói. “Kinh nghiệm và kiến thức của tôi đã giúp tôi hiểu ra rằng, bạn không thể phát triển một công cụ cho một môi trường, rồi cố áp nó lên các môi trường khác.”

Vì vậy, ta cần trả lời được câu hỏi: làm sao để giữ tính cụ thể nói trên, trong khi vẫn triển khai được AI trên quy mô lớn?” Bà cho biết. Và đây sẽ là mục tiêu cho các công trình nghiên cứu tiếp theo về AI.

Theo MIT Technology Review

Tin liên quan: