Sự cố hi hữu, dấy lên lo ngại
Một công ty khởi nghiệp có tên gọi là Sensorium đã tạo ra một vũ trụ ảo vui nhộn của riêng họ. Tại đây, người dùng có thể tham gia một chuyến tham quan ảo vào một thế giới dưới đáy biển bị bỏ hoang, xem một buổi hòa nhạc được phát trực tiếp với DJ người Pháp Jean-Michel Jarre hoặc trò chuyện với bot.
Công ty này đã đem bản demo (mẫu) vũ trụ ảo của họ đến với một hội thảo công nghệ tổ chức tại Lisbon (Bồ Đào Nha). Một số đại biểu đã được giới thiệu và trò chuyện cùng bot ảo David, thế nhưng một sự cố bất ngờ ập đến khi David được hỏi về vắc xin. Cụ thể, David đã đưa ra hàng loạt thông tin sai lệch, khẳng định là vắc xin nguy hiểm hơn cả những căn bệnh mà con người đang cố gắng ngăn ngừa.
| David (bot của Sensorium) cung cấp thông tin sai lệch về vắc xin SENSORIUM CORP |
Mặc dù phía công ty Sensorium cho biết họ sẽ thêm các bộ lọc chủ đề nhạy cảm nhằm tránh những sự cố tương tự tái diễn, tuy nhiên vụ việc chỉ ra rằng kiểm duyệt thông tin trên vũ trụ ảo là một vấn đề cần quan tâm.
Chạy đua metaverse, pháp lý cần đặt lên đầu
Các ông lớn công nghệ như Apple, Microsoft hay Meta (Facebook trước đây) đang ra sức chạy đua với xu hướng metaverse, nơi mà người dùng có thể nhập vai vào một vũ trụ ảo và phần nào đó thay đổi sự tương tác giữa người với người trong thời đại mới.
Công nghệ này vẫn đang trong giai đoạn phát triển ban đầu, thế nhưng giới quan sát đã đưa ra nhiều cảnh báo, trong đó có những vấn đề vốn đã nhức nhối trên các nền tảng xã hội hiện nay như tin giả, tin sai lệch.
“Kiểm duyệt thông tin trên vũ trụ ảo sẽ còn khó khăn hơn rất nhiều so với mạng xã hội”, nhận định của nhóm phóng viên đến từ Bloomberg. Xuất phát từ các chính sách lỏng lẻo, fact-checker (công cụ kiểm chứng thông tin) kém cỏi của các công ty công nghệ, đã trực tiếp hoặc gián tiếp giúp những thông tin sai lệch như thuyết âm mưu, ngôn ngữ kích động hận thù và bạo lực, được phép tồn tại và lan truyền nhanh chóng.
“Đổi tên gọi là vậy, thế nhưng Meta vẫn đang dung túng cho các thông tin sai lệch tồn tại trên các ứng dụng, nền tảng của họ. Nếu không kiểm duyệt được các thông tin độc hại trên những nền tảng như Facebook và Instagram, sự kiểm soát thông tin trên metaverse là điều không thể”, Alex Cadier, Giám đốc quản lý tại công ty chống tin giả NewsGuard (Vương quốc Anh) nói.
Trước làn sóng nghi ngờ của giới quan sát, các lãnh đạo của Meta liên tục cam kết sẽ tính đến quyền riêng tư và phúc lợi của người dùng khi phát triển vũ trụ ảo. Công ty cũng lập luận rằng những thế giới ảo thế hệ tiếp theo này sẽ không thuộc sở hữu độc quyền của Meta mà sẽ đến từ một tập hợp các kỹ sư, người sáng tạo, các công ty công nghệ có môi trường và sản phẩm hoạt động cùng nhau.
Đồng thời, các cơ quan quản lý trên toàn thế giới có thể bắt đầu tranh luận về các chính sách có thể duy trì sự an toàn của metaverse ngay cả trước khi công nghệ cơ bản được phát triển đầy đủ. “Trước đây, tốc độ mà công nghệ mới đến đôi khi khiến các nhà hoạch định chính sách và cơ quan quản lý phải bắt kịp. Tuy nhiên, với metaverse thì phải cần đến vài năm nữa để ứng dụng hoàn chỉnh và chúng ta có đủ thời gian để hoàn thiện pháp lý trước đó”, Nick Clegg, Phó chủ tịch phụ trách các vấn đề toàn cầu của Meta phát biểu tại Hội nghị Connect vào 10.2021.
| Nick Clegg, Phó chủ tịch phụ trách các vấn đề toàn cầu của Meta META |
AI kiểm duyệt thông tin trên metaverse
Ứng dụng trí tuệ nhân tạo (AI) để rà soát những nội dung độc hại, vi phạm chính sách cộng đồng vốn đã được những nền tảng mạng xã hội như Meta (Facebook & Instagram), Twitter và YouTube sử dụng. Khi bị nhận diện, các nội dung xấu sẽ được tự động xử lý như xóa bỏ, gắn nhãn độc hại hoặc giới hạn lượt tiếp cận.
Dù không thể nhận diện và xử lý triệt để 100%, việc áp dụng AI để rà soát thông tin là điều tất yếu và cần được duy trì, phát triển liên tục trên mỗi nền tảng mạng xã hội. Tương tự với nền tảng vũ trụ ảo, ứng dụng AI để kiểm duyệt thông tin là rất cần thiết và đòi hỏi AI phải thông minh hơn rất nhiều so với hiện tại.
| AI kiểm duyệt thông tin đóng vai trò quan trọng trong metaverse MEDIUM |
Nhận định về tầm quan trọng của AI kiểm duyệt thông tin trên vũ trụ ảo, giáo sư Andrea Emilio Rizzoli đến từ Viện nghiên cứu trí tuệ nhân tạo Dalle Molle (Thụy Sĩ) cho rằng vũ trụ ảo metaverse có an toàn hay không phụ thuộc vào việc các công ty "dạy" AI như thế nào.