Facebook sử dụng AI để phát hiện người dùng có ý định tự tử
Mạng xã hội lớn nhất thế giới này đã cho phép người dùng gửi báo cáo về các nội dung có dính dáng tới tự tử, sau đó các báo cáo đó sẽ được rà soát và cân nhắc để Facebook đưa ra các hỗ trợ phù hợp, ví dụ số điện thoại hotline phòng ngừa tự tử, hoặc trong những trường hợp đặc biệt, chính đội phản ứng thực thi pháp luật của Facebook sẽ can thiệp.
AI đã làm thay đổi cung cách thực hiện quy trình phòng ngừa tự tử nói trên từ một năm trước. Đã có công cụ tự động đánh dấu các bài đăng có dấu hiệu bằng ngôn từ về ý định tự tử, và sẽ được gửi về cho nhân sự duyệt nội dung xem xét. Báo cáo mới nhất của Facebook về hiệu quả của hệ thống này cho thấy, số lượng nội dung liên quan tới tự tử được gửi duyệt nội dung xem xét đã tăng tới 20 lần, và con số những người nhận được hỗ trợ từ Facebook đã tăng gấp đôi. Công ty này cũng triển khai hệ thống với nhiều ngôn ngữ hơn và áp dụng cho cả Instagram ở mức thử nghiệm ban đầu.
 |
Mark Zuckerberg, CEO của Facebook (Nguồn: Google) |
"Chúng tôi nghĩ việc cung cấp hỗ trợ cho những người cần nó càng nhanh càng tốt chính là điều quan trọng nhất", Dan Muriello, kỹ sư phần mềm thuộc nhóm nghiên cứu người dùng của Facebook cho biết.
Có thể bạn không thường xuyên nhìn thấy các post có ý nghĩ về tự tử trên dòng thời gian của mình, nhưng với hàng triệu bài đăng đã xuất hiện trên Facebook, tự tử là một nguy cơ đáng sợ. Nó nằm trong top 10 nguyên nhân gây tử vong nhiều nhất tại Mỹ, đứng thứ hai trong list nguyên nhân tử vong của những người có độ tuổi từ 15 đến 34, chỉ sau tai nạn ngoài ý muốn.
Vào năm 2013, Facebook đã thành lập phòng nghiên cứu AI và mời được chuyên gia hàng đầu Yann Lecun tham gia. Phòng thí nghiệm này đã đạt được nhiều thành tựu mới với những công cụ như nhận diện đồ vật trong bức ảnh người dùng đưa lên, chuyển các văn bản text sang các ngôn ngữ khác, và dịch các đoạn hội thoại trong video.
Facebook đã nghiên cứu về công cụ phòng ngừa tự tử trong hơn một thập niên qua. Bắt đầu từ những thông tin của trung tâm hỗ trợ của mạng xã hội này, nơi mọi người có thể nhận được sự giúp đỡ. Sau đó là những người dùng khác chung tay hỗ trợ bằng việc report nội dung mang thông điệp xấu này.
Hầu hết các gã khổng lồ công nghệ trên thế giới đều đầu tư vào AI để phát triển sản phẩm dịch vụ và nền tảng của mình. Nhưng không phải ông lớn nào cũng quan tâm tới câu chuyện về ngăn chặn tự tử. Khi bạn gõ vào ô tìm kiếm của Google cụm từ "I want to kill myself" - Tôi muốn kết liễu đời mình - số điện thoại của đường dây hỗ trợ ngăn chặn tự tử của Mỹ sẽ hiện lên.
 |
Khi gõ cụm từ với nội dung liên quan tới tự tử, kết quả trả về của Google có số đường dây hotline hỗ trợ tùy theo vị trí người dùng (Nguồn: CNBC) |
Với lực lượng hơn 7.500 nhân sự xét duyệt nội dung, các chủ đề như tự tử, bắt nạt hay tấn công tình dục được Facebook tập trung xử lý. "Các nội dung có liên quan đến an toàn tính mạng con người như một lời đe dọa hay tự gây hại cho bản thân luôn được ưu tiên trước hết, và được xử lý đầu tiên", thông tin từ Monika Bickert, Giám đốc Bộ phận quản lý chính sách toàn cầu của Facebook.
Nỗ lực này của Facebook đã từng nhận được hỗ trợ từ Dự án SAVE (Suicide Awareness Voices of Education). Dan Reidenberg, Giám đốc điều hành của SAVE, đã chia sẻ về sự đấu tranh nội tâm của những tình nguyện viên phải đối mặt với sự ra đi của những người trước khi sự trợ giúp đến được với họ. Việc mà Reidenberg làm là đưa ra một danh sách các cụm thường được sử dụng bởi những người có ý định kết liễu đời họ, rồi phối hợp với Facebook trong các hội thảo thường niên hai năm một lần để cung cấp thông tin tới các công ty công nghệ vừa và nhỏ. Họ sẽ cùng giám sát thường xuyên danh sách đó, cùng với Facebook.
Tuy vậy, nhóm nghiên cứu người dùng của Facebook đã có bước đi táo bạo khi sử dụng nguồn lực kỹ thuật dồi dào của mình, phòng lab AI sẵn có để thực hiện nhiệm vụ giám sát nói trên. Đầu năm 2017, trong một cuộc thảo luận nội bộ tại trụ sở Facebook ở Thung lũng Silicon về triển khai AI cho mục tiêu phòng ngừa tự tử, Omut Ozertem, một chuyên gia nghiên cứu của Facebook với kinh nghiệm làm việc ở Yahoo và Microsoft, đã tham gia và bày tỏ sự quan tâm đặc biệt tới vấn đề này.
Ozertem cùng một đồng nghiệp trong nhóm Máy học ứng dụng (Applied Machine Learning), đang hỗ trợ các nhóm khác triển khai công nghệ cho phòng lab AI. Với các dữ liệu từ nhóm nghiên cứu người dùng, như các bài post được báo cáo, mục tiêu triển khai kỹ thuật là xây dựng một hệ thống tự động hiểu được nội dung văn bản, thậm chí có thể nắm bắt được ẩn ý về hành vi của những người có ý định tự tử. Ví dụ, câu nói "Nếu mà tôi còn phải nghe bài hát này một lần nữa, chắc tôi chết mất" cần phải được hiểu với ý nghĩa ko hề xấu. Trong số dữ liệu nói trên, có khoảng 500 post có ý định tự tử thật và số lượng tương tự giống như ví dụ vừa nêu.
Hệ thống tự động cần phải hiệu quả trong việc phát hiện ra các thông điệp cần đánh dấu đỏ, như khi có người bày tỏ nỗi buồn bã vô cùng hay đe dọa sẽ hành động. Kết quả đưa ra không chỉ hoàn toàn dựa vào phản ứng hay bình luận của bạn bè, vì trong một số trường hợp người dùng không có nhiều bạn bè.
Cuối cùng, yếu tố quan trọng nhất chính là thời gian. Phản ứng càng nhanh, nói cách khác, thời gian kể từ lúc bài post được đưa lên tới khi được xử lý, càng nhiều mạng sống được cứu giúp.
Một câu chuyện có thực đã diễn ra tại quận Chautauqua của New York, Mỹ. Ở đây vốn diễn ra khá nhiều vụ tự tử. Vào tháng 7/2017, trung tâm cứu hộ 911 của quận này được cuộc gọi từ thành viên nhóm an toàn bảo mật của Facebook ở Ireland thông báo về một cư dân đang có dấu hiệu cần hỗ trợ. Cảnh sát trưởng Joseph Gerace của địa phương này chia sẻ: "Sự an toàn của cộng đồng đang được củng cố bởi hành động này. Chúng tôi không can thiệp vào đời sống riêng tư của mọi người, mà chúng tôi chỉ ra mặt khi chuẩn bị có biến cố xảy ra".
Trên thực tế, không thiếu những phàn nàn từ người dùng về việc Facebook đang lắng nghe họ quá nhiều, kể cả các ý nghĩ tự tử. Dù vậy, phần mềm phát hiện AI đã có các kết quả có thể định lượng được, để tập trung hỗ trợ những người đang chia sẻ thông tin trên mạng xã hội. Còn đối với các cơ quan hành pháp, họ kỳ vọng thành quả đạt được sẽ vượt xa những bất lợi về tính riêng tư.
Post a Comment