Các kỹ sư của Facebook đang phát triển một phương pháp mới, dựa trên trí tuệ nhân tạo để xác định và ngăn chặn kịp thời những hành vi có mục đích xấu như: phát tán thư rác, lừa đảo, mua bán vũ khí và ma túy.
Để mô phỏng lại những hành vi gây hại tương tự, các nhà nghiên cứu đã phát triển các bot dựa trên trí tuệ nhân tạo thực hiện lại những hoạt động có mục đích xấu tương tự trên một phiên bản giả lập song song của Facebook. Sau đó nghiên cứu về hành vi của chúng và thử nghiệm nhiều cách khác nhau để ngăn chặn.
Trình giả lập này được gọi là WW, phát âm là “Dub Dub”, được phát triển dựa trên cơ sở mã thực của Facebook. Dự án được công bố lần đầu vào đầu năm, nhưng gần đây Facebook đã chia sẻ thêm một số thông tin chi tiết về phiên bản song song này.
Dự án nghiên cứu đang được dẫn dắt bởi Mark Harman – kỹ sư phần mềm của Facebook – và bộ phận trí tuệ nhân tạo của công ty ở London (Anh). Harman cho biết WW là một công cụ linh hoạt, có thể được sử dụng để hạn chế nhiều hành vi có hại trên trang web. Ông đã trình bày ví dụ về việc sử dụng mô hình giả lập để phát triển hệ thống chống lừa đảo mới để bảo vệ người dùng.
Ngoài đời thực, những kẻ lừa đảo thường lợi dụng những mối quan hệ trong Nhóm (group) để khai thác những đối tượng nhẹ dạ để gây hại. Nắm được điều này, các kỹ sư của Facebook đã tạo ra một nhóm bot “ngây thơ” có hành vi như những người dùng cả tin, sau đó đào tạo một nhóm bot “xấu” để truy tìm và thực hiện hoạt động lừa đảo.
Bằng cách này, các kỹ sư đã thử nghiệm nhiều cách khác nhau để ngăn chặn hành vi của các bot xấu. Họ đã tính đến việc đưa ra những ràng buộc khác nhau, như giới hạn số lượng bài viết và tin nhắn riêng tư các bot có thể gửi trên mỗi phút, và tìm hiểu hành vi tiếp theo của chúng.
Harman so sánh dự án của ông với việc các nhà hoạch định thành phố đang cố gắng giảm tốc độ trên những con đường đông đúc. Trong trường hợp đó, các kỹ sư phải mô hình hóa lưu lượng giao thông trong các trình giả lập, sau đó thử nghiệm những vụ va chạm tốc độ cao trên một số đường phố để xem tình trạng và tìm hướng xử lý. Theo Harman, Facebook làm điều tương tự trên trình giả lập WW. Trong đó, các nhà nghiên cứu sẽ quan sát hành vi của bot và nhanh chóng ghi nhận những thay đổi có thể xảy ra, từ đó tìm biện pháp ngăn chặn mà không ảnh hưởng đến những người dùng có hành vi bình thường.
Trên thực tế, tạo trình giả lập để mô phỏng hành vi cần nghiên cứu được áp dụng rât phổ biến trong ngành công nghệ học máy. Tuy nhiên dự án WW đáng chú ý vì mô phỏng dựa trên phiên bản thực của Facebook. Toàn bộ hành động và quan sát như đang diễn ra trên nền tảng thực, vì vậy kết quả nghiên cứu sẽ chính xác hơn. Harman nhấn mạnh rằng dù sử dụng nền tảng như chính Facebook, nhưng các bot không được phép tương tác với người dùng dưới bất kỳ hình thức nào.
Trình giả lập không phải là bản sao trực quan của Facebook. Đừng tưởng tượng các nhà khoa học nghiên cứu hành vi của bot giống như cách bạn xem mọi người tương tác với nhau trong một nhóm Facebook. WW chỉ ghi lại tất cả tương tác dưới dạng dữ liệu số, mọi thứ không xảy ra theo cách thông thường. Sự khác biệt ở đây giống như việc xem một trận bóng đá (Facebook thật) và chỉ đọc số liệu thống kê trận đấu (WW).
Hiện tại WW vẫn đang trong giai đoạn nghiên cứu, chưa có bất kỳ kết quả nào của dự án được áp dụng vào thực tiễn. Harman cho biết nhóm nghiên cứu đang tiếp tục chạy thử nghiệm để kiểm tra xem các mô hình giả lập có khợp với hành vi thực tế nhất của người dùng không. Ông cho biết dự án này sẽ dẫn đến việc sửa đổi mã Facebook vào cuối năm nay.
Rõ ràng WW vẫn còn nhiều hạn chế, trình giả lập không thể mô phỏng những hành vi, ý định phức tạp của người dùng. Đại diện Facebook cho biết các bot chỉ tìm kiếm , đưa ra yêu cầu kết bạn, để lại bình luận, tạo bài đăng và gửi tin nhắn, nhưng nội dung thực tế của những hành động này (như nội dung của một cuộc trò chuyện) không được mô phỏng.
Tuy nhiên, thế mạnh của WW là khả năng hoạt động trên quy mô lớn. Với trình giả lập này, Facebook có thể chạy hàng ngàn bot để mô phỏng, kiểm tra chi tiết từng thay đổi nhỏ, từ đó tìm thấy những mô hình hành vi mới mà hoàn toàn không ảnh hưởng đến người dùng. “Tôi nghĩ sức mạnh của việc thống kê dữ liệu quy mô lớn vẫn chưa được nhìn nhận đúng mực”, Harman nói.
Một trong những khía cạnh thú vị là WW rất có tiềm năng phát hiện những điểm yếu mới trong kiến trúc của Facebook thông qua hành vi của các bot. Các bot được đào tạo theo nhiều cách khác nhau. Đôi khi chúng được hướng dẫn rõ ràng về cách hành động; hoặc được yêu cầu bắt chước hành vi thực tế. Cũng có lúc các nhà nghiên cứu chỉ được đưa ra một số mục tiêu nhất định và để chúng tự quyết định hành vi. Trong kịch bản thứ hai (phương pháp học máy không giám sát) có thể xảy ra các hành vi không mong muốn, vì các bot tìm mọi cách để đạt được mục tiêu mà các kỹ sư không dự đoán được.
“Hiện tại, trọng tâm chính của Facebook là đào tạo các bot có thể bắt chước những điều có khả năng xảy ra trên nền tảng. Nhưng cả lý thuyết và thực tế đều cho thấy các bot có thể làm những điều chúng ta chưa từng thấy trước đây. Đó thực sự là điều chúng tôi muốn, bởi vì mục đích cuối cùng của dự án là tìm ra những hành vi xấu trước cả khi chúng kịp phát triển”, Harman chia sẻ.
Harman cho biết nhóm nghiên cứu đã thấy một số hành vi bất ngờ từ các bot nhưng từ chối chia sẻ chi tiết bởi vì ông không muốn cung cấp manh mối cho những kẻ lừa đảo.
