Nhưng theo hãng thông tấn AFP, thực chất, tiếng nói của cô con gái đó lại là sản phẩm của trí tuệ nhân tạo (AI) và vụ bắt cóc là hoàn toàn không có thật.
Đối mặt với vấn nạn lừa đảo này, các chuyên gia cho rằng mối nguy hiểm lớn nhất của AI là xoá nhoà ranh giới giữa thực tế và hư cấu, tiếp tay cho bọn tội phạm mạng có được một công nghệ rẻ tiền mà hiệu quả để thực hiện ý đồ xấu.
Trong một loạt vụ lừa đảo mới làm chấn động nước Mỹ, những kẻ lừa đảo đang sử dụng các công cụ nhân bản giọng nói AI với mức độ giống thật đáng kinh ngạc - nhưng lại dễ dàng tiếp cận trên mạng - để đánh cắp tài sản bằng cách mạo danh thành viên trong gia đình của nạn nhân.
“Cứu con với, mẹ ơi, cứu con với,” bà Jennifer DeStefano sống ở Arizona đã nghe thấy một giọng nói hoảng hốt đầu dây bên kia.
Cô DeStefano 100% tin tưởng cô con gái 15 tuổi của mình bị gặp nạn khi đi trượt tuyết. “Tôi chẳng mảy may nghi vấn. Đó rõ ràng là giọng nói của con bé. Đó là cách con bé sẽ bật khóc. Tôi chưa bao giờ nghi ngờ dù chỉ một giây thôi”, bà DeStefano kể lại trên sóng một đài truyền hình địa phương hồi tháng 4.
Kẻ lừa đảo đã thực hiện cuộc gọi, hiển thị số lạ trên điện thoại của bà DeStefano, đòi số tiền chuộc lên tới 1 triệu đô la Mỹ. Âm mưu tống tiền được AI hỗ trợ này đã đổ bể sau vài phút khi bà DeStefano liên lạc được với con gái mình.
Nhưng vụ án kinh hoàng trên đã nhấn mạnh khả năng bọn tội phạm mạng lạm dụng các công nghệ AI để giả danh người khác.
Ông Wasim Khaled, Giám đốc điều hành tại công ty Blackbird.AI, nói với AFP: “Khả năng nhân bản giọng nói của AI hiện gần như không thể phân biệt được với giọng nói thật của con người. Yếu tố này cho phép những kẻ lừa đảo lấy thông tin và tiền từ nạn nhân một cách hiệu quả hơn”.
Một lệnh tìm kiếm đơn giản trên mạng Internet đã đề xuất rất nhiều ứng dụng có sẵn miễn phí để tạo giọng nói AI chỉ bằng một đoạn ghi âm nguyên mẫu ngắn, thậm chí chỉ kéo dài vài giây. Hậu quả, giọng nói thật của một người có thể dễ dàng bị đánh cắp từ phần nội dung mà họ đăng trực tuyến.
“Với một mẫu âm thanh nhỏ, bản sao giọng nói AI có thể bị lợi dụng để gửi thư thoại và văn bản thoại. Nó thậm chí có thể được sử dụng như một công cụ thay đổi giọng nói trực tiếp trong các cuộc gọi điện thoại”, ông Khaled lưu ý.
Bọn lừa đảo có thể sử dụng các giọng, giới tính khác nhau hoặc thậm chí bắt chước cách nói của những người thân của nạn nhân.
Trong một cuộc khảo sát toàn cầu trên 7.000 người ở 9 quốc gia, trong đó có Mỹ, cứ 4 người thì có 1 người cho biết họ đã từng bị lừa đảo bằng giọng nói AI, hoặc biết đến một trường hợp từng bị lừa đảo theo cách đó.
70% số người được hỏi cho biết họ không tự tin rằng mình có thể phân biệt được sự khác biệt giữa giọng nói nhân bản và giọng nói thật.
Trong khi đó, các quan chức Mỹ gần đây đã liên tục cảnh báo về tần suất gia tăng của các vụ lừa đảo nhằm vào ông bà lớn tuổi. Theo kịch bản chung, kẻ mạo danh sẽ đóng giả một người cháu của nạn nhân đang cần tiền gấp trong một tình huống khó khăn.
“Bạn nhận được một cuộc gọi. Có một giọng nói hoảng hốt trên đường dây. Đó là cháu trai của bạn. Người đó nói rằng đang gặp rắc rối lớn. Cậu ta làm hư hại xe ô tô và phải ngồi tù. Nhưng bạn có thể giúp đỡ bằng cách gửi tiền”, Ủy ban Thương mại Liên bang Mỹ (FTC) mô tả về chiêu thức lừa đảo này.
Trong các bình luận bên dưới bản tin cảnh báo của FTC, nhiều người cho biết người thân lớn tuổi trong gia đình họ đã bị lừa theo cách đó.
Đó là câu chuyện của anh Eddie, 19 tuổi, ở Chicago. Ông nội của Eddie nhận được cuộc gọi từ một người mạo danh anh, nói rằng anh cần tiền vì đã gây ra tại nạn xe hơi.
Theo báo cáo của hãng McAfee Labs, mưu mẹo này thuyết phục đến mức ông nội của Eddie khẩn trương gom góp tiền và thậm chí còn cân nhắc đến cách thế chấp nhà để lấy tiền trước khi lời nói dối đó bị phát hiện.
Giáo sư Hany Farid của Trường Thông tin UC Berkeley nói với AFP: “Vì hiện nay rất dễ tạo ra các bản sao giọng nói có độ chân thực cao nên gần như bất kỳ ai có hiện diện trực tuyến nào đều dễ bị tấn công. Những trò lừa đảo này đang rộ lên và lan rộng”.
Đầu năm 2023, công ty khởi nghiệp AI ElevenLabs thừa nhận rằng công cụ sao chép giọng nói của họ có thể bị lạm dụng vào mục đích xấu. Cụ thể, một người dùng sản phẩm của công ty này đăng một đoạn âm thanh giả mạo cho thấy nữ diễn viên Emma Watson đang đọc cuốn tiểu sử Mein Kampf của trùm phát xít Đức Adolf Hitler.
Ông Gal Tal-Hochberg, Giám đốc công nghệ tại công ty đầu tư mạo hiểm Team8, nói với AFP rằng chúng ta đang tiến nhanh đến mức bạn không thể tin vào những thứ bạn nhìn thấy trên Internet. Do đó, chúng ta cần công nghệ mới để biết liệu người đang nói chuyện với bạn có thực sự là người đó hay không.