Trí tuệ nhân tạo (AI) đã giúp các nhà khoa học tìm ra rất nhiều phát hiện mới, tuy nhiên, không phải ai cũng hiểu được cách mà chúng đưa ra các quyết định này. Một nhà khoa học máy tính tại Đại học Maine (UMaine) hiện đang phát triển các mạng nơ ron sâu, có khả năng giải thích các phát hiện của chúng sao cho người dùng hiểu được, và hiện đang ứng dụng công trình này trong nhiều lĩnh vực như y học và sinh học.

Ảnh: Pixabay/CC0 Public Domain

Theo phó giáo sư Chaofan Chen, trọng tâm nghiên cứu của ông là công nghệ “interpretable machine learning” – tức các AI có khả năng giải thích các kết luận mà chúng đưa ra. Ông cũng chia sẻ rằng, thông qua công nghệ này, AI sẽ có thể phân biệt và so sánh giữa các hình ảnh và dự đoán được đưa ra từ dữ liệu, đồng thời lý luận được cụ thể các so sánh này.

Interpretable machine learning có thể được ứng dụng trong rất nhiều tác vụ khác nhau, từ xác định loài chim trong hình ảnh tới phân tích nhũ ảnh.

Thông qua công nghệ này, tôi muốn tăng độ minh bạch cho công nghệ deep learning (học sâu), cũng như khiến các mạng nơ-ron giải thích được cho con người các lý luận của chúng. Chúng ta thường coi mạng nơ-ron sâu như một chiếc hộp đen, và giờ đây ta cần tìm ra các biện pháp để mở ra chiếc hộp đó,” Chen bày tỏ.

Được biết, Chen đã bắt đầu phát triển các kỹ thuật interpretable machine learning từ khi còn theo học Đại học Duke – nơi ông đã tốt nghiệp bằng tiến sỹ khoa học máy tính vào hồi tháng năm.

Nguồn ảnh: Đại học Maine

Trước khi gia nhập UMaine, Chen cùng các đồng nghiệp trong nhóm nghiên cứu tại Duke đã phát triển ra một kiến trúc machine learning có tên gọi là ProtoPNet (viết tắt của prototypical part network), với khả năng phát hiện và phân loại các loài chim trong ảnh, rồi lí giải cho các phát hiện đó. Kiến trúc này được hoàn thành vào hồi năm ngoái, và có thể giải thích tại sao nó lại biết được chim trong ảnh là loài chim nào.

Các nhà nghiên cứu đã huấn luyện ProtoPNet để có thể xác định các loài chim trong hình ảnh. Cụ thể, AI này sẽ học một nhóm các đặc điểm mẫu thường được sử dụng để phân loại chim, sau đó thực hiện so sánh các phần khác nhau trong ảnh với các đặc điểm mẫu này của nhiều loài chim khác nhau. Ví dụ, ProtoPNet sẽ so sánh phần mà nó cho là đầu chim với các đầu chim của nhiều chủng loài khác nhau. Sau đó, từ các điểm giống nhau mà nó xác định được, ProtoPNet sẽ giải thích được tại sao nó nhận định chim trong ảnh là một loài cụ thể, Chen chia sẻ.

Công trình này đã được đội ngũ nghiên cứu chia sẻ tại Hội nghị thứ 33 về Các hệ thống Xử lý Nơ-ron, được tổ chức tại Vancouver, Canada.

Phương thức này đã mô tả quá trình lý luận một cách gọn ghẽ và trực quan… dạng như ‘đây là một chú chim sẻ có màu đất, bởi lẽ hình ảnh này có một số bộ phận tương tự như chim sẻ màu đất,” Chen nói. “Nhận diện chim là một thang đo cơ bản cho tác vụ phân loại hình ảnh, và vì vậy chúng tôi đã sử dụng nó để chứng minh hiệu quả của phương thức này.”

Còn ở hiện tại, Chen đang triển khai một nghiên cứu AI khác với các đồng nghiệp và nghiên cứu sinh tại Duke, nhằm tìm cách ứng dụng ProtoPNet trong việc phân tích nhũ ảnh để tìm ra các dấu hiệu ung thư vú.

Tuy nhiên, ProtoPNet hiện vẫn chưa thể xác định các phần chính của nhũ ảnh – tức các đặc điểm cần xem xét để phát hiện ung thư vú. Theo Chen, điều này là do mô hình hiện chưa được huấn luyện bài bản như các bác sỹ, và vì vậy đội ngũ nghiên cứu sẽ tiếp tục huấn luyện nó, sao cho mô hình này có thể đánh giá nhũ ảnh tương đương với các chuyên gia y tế, cũng như học được cách xác định những xu thế quan trọng trong hình ảnh.

Tất cả đội ngũ nghiên cứu của Chen đều tới từ Đại học Duke, cụ thể bao gồm: nghiên cứu sinh tiến sỹ Alina Jade Barnett và Yinhao Ren, sinh viên Chaofan Tao, giáo sư khoa học máy tính Cynthia Rudin, giáo sư kiêm Phó Giám đốc Nghiên cứu và X Quang Joseph Lo, và nhà nghiên cứu hậu tiến sỹ chuyên về X Quang Fides Regina Schwartz.

Nói về công trình mới, Chen khẳng định: Nó thật sự có ảnh hưởng. Việc công trình nghiên cứu của mình thực sự đóng góp tích cực cho xã hội là một niềm vui lớn đối với tôi.”

Nghiên cứu của Chen cũng bám sát với Chương trình Phát kiến AI của UMaine – một nỗ lực nhằm biến nước Mỹ trở thành một cộng đồng hàng đầu về nghiên cứu và giáo dục AI, đồng thời phát triển ra các giải pháp ứng dụng AI nhằm cải thiện an sinh xã hội và tình trạng kinh tế quốc gia.

Thật tuyệt vời khi được chứng kiến AI không chỉ dự đoán chính xác, mà còn mô phỏng được các suy nghĩ của con người,” Chen bày tỏ.

Theo TechXplore

Tin liên quan: