ChatGPT có thể lan truyền tin tức giả mạo trên quy mô lớn

ChatGPT có thể được sử dụng để phổ biến và lan truyền tin tức giả trên quy mô lớn và thậm chí là trở thành công cụ giúp tin tặc viết mã độc.

ChatGPT là chatbot AI mà OpenAI phát hành vào tháng 11/2022 nhằm trình diễn và thử nghiệm những gì một hệ thống AI lớn, mạnh mẽ có thể thực hiện. Người dùng đặt câu hỏi và có thể nhận được câu trả lời hữu ích.

ChatGPT có thể trò chuyện, thiết lập văn bản theo yêu cầu và thậm chí tạo ra những hình ảnh và video mới lạ dựa trên những gì ứng dụng này đã học được từ cơ sở dữ liệu sách số khổng lồ, bài luận trực tuyến và các phương tiện khác.

Không giống như các công cụ ngôn ngữ trước đây như GPT-3 của OpenAI, ra mắt vào năm 2020, ChatGPT được thiết kế thân thiện với người dùng hơn.

Sự phát triển của các công cụ AI tổng quát như ChatGPT thể hiện một tiến bộ công nghệ quan trọng. Tuy nhiên, như với bất kỳ công nghệ mới nào, bên cạnh những ưu điểm mà nó mang lại, chúng ta cũng cần phải xem xét đến cả những rủi ro và nhược điểm tiềm ẩn của ChatGPT. Một trong số đó là ChatGPT có khả năng phát tán tin giả trên quy mô lớn.

Việc phát tán tin giả, thông tin sai lệch có thể mang lại những hậu quả nghiêm trọng, từ việc gây ảnh hưởng đến dư luận cho đến làm suy yếu lòng tin vào các tổ chức, doanh nghiệp. Với khả năng tạo ra một lượng lớn văn bản một cách nhanh chóng và thuyết phục, các công cụ AI tổng quát như ChatGPT có thể được sử dụng để phổ biến tin tức giả mạo trên quy mô lớn. Cụ thể, công cụ này có thể được sử dụng là tạo ra những video hoặc bản ghi âm giả sâu (deep fake) về những câu chuyện tin tức giả mạo có vẻ hợp pháp, khiến mọi người càng khó phân biệt được sự khác biệt giữa thực tế và hư cấu.

Bên cạnh đó, một vấn đề khác cũng thực sự đáng lo ngại là việc sử dụng các công cụ AI tổng quát để tạo các tài khoản mạng xã hội giả mạo hoặc bot truyền bá thông tin sai lệch. Những tài khoản này có thể được sử dụng để lan truyền những tin tức giả mạo một cách nhanh chóng trên các nền tảng mạng xã hội, khiến mọi người khó tìm được nguồn thông tin đáng tin cậy.

Điều này có thể tác động đặc biệt tiêu cực đến những phát ngôn công cộng, khiến mọi người khó có được những cuộc thảo luận mang tính xây dựng và đầy đủ thông tin về các vấn đề quan trọng. Các công cụ AI để tạo tin giả cũng có thể được sử dụng để tạo các câu chuyện giả ủng hộ hoặc phản đối các ứng cử viên hoặc một chính sách cụ thể nào đó nhằm gây ảnh hưởng đến dư luận và có thể có tác động đáng kể đến kết quả bầu cử và thậm chí được sử dụng để phá hoại tiến trình dân chủ.

Đặc biệt, bên cạnh những rủi ro trên, OpenAI cũng cảnh báo rằng ChatGPT đôi khi có thể tạo ra thông tin không chính xác hoặc gây hiểu lầm, vì vậy người dùng nên cẩn thận. Các câu trả lời nghe có vẻ hợp lý và thậm chí có căn cứ, nhưng chúng có thể hoàn toàn sai.

Với những mặt trái đó, theo Analytics Insight, một trong những cách có thể giúp hạn chế những tác động tiêu cực là phát triển và triển khai các hệ thống có khả năng phát hiện và gắn cờ những nội dung có khả năng giả mạo do các công cụ này tạo ra. Bên cạnh đó, các cơ quan chức năng cũng cần có những quy định về tính minh bạch và trách nhiệm giải trình cao hơn về việc sử dụng các công cụ này để giúp giảm nguy cơ lan truyền tin giả./.

Theo Analytics Insight