Dùng AI đấu với AI trong cuộc chiến chống tin giả
Quả thực, AI tổng quát - với sự ra mắt của DALL-E, Midjourney và ChatGPT- đang thay đổi mọi điều. |
Nhưng tốc độ đổi mới này tiềm ẩn rủi ro, trong đó tin giả đặt ra một thách thức lớn đối với các doanh nghiệp và các quốc gia trong năm 2023 và cả những năm sau nữa.
Xu hướng “ảo giác”
Tờ “The Guardian” mới đây đưa tin các biên tập viên của mình đã nhận được câu hỏi từ độc giả về các bài báo không xuất hiện trong kho lưu trữ trực tuyến của tạp chí. Đây là những bài báo mà chính các phóng viên cũng không nhớ họ là tác giả. Hóa ra, họ chưa bao giờ viết những bài báo đó. ChatGPT, khi được người dùng yêu cầu cung cấp thông tin về các chủ đề cụ thể, đã tham khảo các bài báo của “The Guardian” trong phần đầu ra hoàn toàn giả mạo.
Một bản tin đăng trên AP mới đây đã xác định một số yếu tố rủi ro của việc con người sử dụng AI trước cuộc bầu cử Tổng thống Mỹ năm 2024. Bài báo làm dấy lên nỗi ám ảnh về các thư điện tử, tin nhắn văn bản hoặc video về các chiến dịch có sức thuyết phục nhưng bất hợp pháp, tất cả đều do AI tạo ra, từ đó có thể đánh lừa cử tri hoặc gieo rắc xung đột chính trị.
Các mô hình AI tổng quát được đào tạo trên lượng dữ liệu khổng lồ và dữ liệu có thể bị lỗi thời. Dữ liệu có thể không đầy đủ, thậm chí có thể hoàn toàn sai: các mô hình AI tổng quát đã cho thấy xu hướng “ảo giác” rõ rệt trong các tình huống này, nghĩa là tự tin khẳng định điều sai trái là đúng.
AI đấu với AI
May mắn là, các tổ chức sử dụng AI tổng quát không bị mắc kẹt vào những rủi ro này. Họ có một số công cụ để xác định và giảm thiểu các vấn đề về thông tin sai lệch trong nội dung do AI tạo ra. Và một trong những công cụ tốt nhất cho việc này… chính là AI.
Một phương pháp cụ thể, được gọi là “đào tạo đối thủ”, về cơ bản mô phỏng việc kiểm tra thực tế bằng cách đưa 2 mô hình AI đấu với nhau trong một cuộc thi trí tuệ. Trong quá trình này, một mô hình được đào tạo để tạo nội dung, trong khi mô hình thứ hai được đào tạo để phân tích độ chính xác của nội dung đó, “gắn thẻ” bất kỳ nội dung nào sai. Các báo cáo xác minh tính xác thực của mô hình thứ hai sau đó được đưa trở lại vào mô hình thứ nhất, báo cáo này sẽ điều chỉnh đầu ra của nó dựa trên những phát hiện đó.
Chúng ta thậm chí có thể khai thác sức mạnh của các mô hình kiểm chứng tính xác thực này bằng cách tích hợp chúng với các nguồn kiến thức của bên thứ ba: Từ điển tiếng Anh Oxford, Encyclopedia Britannica, tạp chí chuyên ngành hoặc thư viện tại các trường đại học. Các hệ thống đào tạo đối thủ này đã phát triển đủ tinh vi để phân biệt giữa thực tế, hư cấu và cường điệu.
Bổ sung yếu tố con người
Mặc dù AI có thể được sử dụng để tự kiểm tra tính xác thực, điều đó không khiến quá trình này trở nên dễ dàng. Đánh giá của con người không chỉ đảm bảo cung cấp thông tin chính xác, đầy đủ và cập nhật mà còn thực sự có thể giúp các hệ thống AI tổng hợp hoạt động tốt hơn.
Tất cả chúng ta đều có lợi ích trong việc tạo ra các sản phẩm AI tổng quát tốt hơn và do đó cũng nên cam kết thúc đẩy tính minh bạch trong mọi lĩnh vực. Các hệ thống AI ngày càng được sử dụng nhiều hơn trong các lĩnh vực quan trọng như y tế, tài chính và thậm chí cả hệ thống tư pháp. Khi các mô hình AI tham gia vào các quyết định ảnh hưởng đến cuộc sống thực của con người, điều cần thiết là tất cả các bên liên quan phải hiểu cách thức đưa ra quyết định đó và cách phát hiện những điểm không nhất quán hoặc không chính xác có thể gây ra hậu quả lớn.
Những bước tiến của AI thế hệ mới trong năm qua chỉ là một phần của những gì sắp xảy ra. Chúng ta đã chứng kiến sự chuyển đổi đáng chú ý, không chỉ về khả năng của các mô hình mà còn về cách con người sử dụng chúng. Và khi những thay đổi này tiếp tục, điều quan trọng là bản năng con người của chúng ta phải phát triển cùng với chúng. Bởi AI chỉ có thể đạt tới tiềm năng của nó khi kết hợp với sự giám sát, sáng tạo và hợp tác của con người.
Tin liên quan
Đông Nam Á trở thành điểm nóng trong cuộc đua phát triển AI
10:06 | 11/05/2024 Nhìn ra thế giới
Đẩy mạnh chuyển đổi số trong hoạt động của Kiểm toán Nhà nước
20:27 | 28/04/2024 Tài chính
AI định hình lại ngành phát thanh, truyền thông và giải trí
09:32 | 19/04/2024 Nhìn ra thế giới
Cuộc đổi vai của 2 gã khổng lồ
05:54 | 19/05/2024 Nhìn ra thế giới
Liên hợp quốc nâng dự báo triển vọng kinh tế toàn cầu năm 2024
09:44 | 17/05/2024 Nhìn ra thế giới
Triển vọng ổn định tài chính của Eurozone đã cải thiện nhưng vẫn mong manh
09:43 | 17/05/2024 Nhìn ra thế giới
Cầu nối vững chắc góp phần ổn định trật tự thế giới
07:45 | 17/05/2024 Nhìn ra thế giới
WCO thúc đẩy hiện đại hoá các chương trình AEO
20:00 | 16/05/2024 Hải quan thế giới
Iran kết nối hệ thống hải quan quốc gia với Hệ thống eTIR quốc tế
09:26 | 16/05/2024 Hải quan thế giới
Cuba sẵn sàng đối thoại bình đẳng với Mỹ
08:22 | 16/05/2024 Nhìn ra thế giới
Singapore tiếp tục dẫn đầu thế giới về chính phủ hiệu quả
08:22 | 16/05/2024 Nhìn ra thế giới
Nga, Trung hướng tới quan hệ đối tác toàn diện và hợp tác chiến lược chặt chẽ
09:26 | 15/05/2024 Nhìn ra thế giới
Khối nợ trên thị trường tài chính tư nhân ngày càng “phồng to”
08:18 | 15/05/2024 Nhìn ra thế giới
Rào cản bủa vây TikTok
07:36 | 15/05/2024 Nhìn ra thế giới
Việt Nam ủng hộ nghị quyết Đại hội đồng về vấn đề thành viên LHQ của Palestine
09:47 | 14/05/2024 Nhìn ra thế giới
Mỹ-Trung lên kế hoạch đối thoại liên chính phủ về trí tuệ nhân tạo
09:44 | 14/05/2024 Nhìn ra thế giới
Vấn đề Bạn quan tâm
Tin mới
Đảm bảo công bằng, minh bạch trong quản lý vốn nhà nước qua hoạt động kiểm toán
Gần 5.400 lượt người nước ngoài được hoàn thuế GTGT
Bánh mì chấm sữa đặc – tự hào văn hóa ẩm thực Việt
TP Hồ Chí Minh phát triển đô thị theo mô hình đa trung tâm
Giải pháp nào hút hàng trung chuyển qua cụm cảng Cái Mép- Thị Vải?
LONGFORM: Hệ sinh thái Tài chính số- Lấy dữ liệu làm tài nguyên, lấy giải pháp đột phá làm nền tảng
16:55 | 16/04/2024 Megastory/Longform
Infographics: Quá trình công tác của tân Phó Cục trưởng Hải quan Khánh Hòa Nguyễn Văn Cường
22:04 | 05/04/2024 Infographics
Infographics: Quá trình công tác của tân Phó Tổng cục trưởng Tổng cục Hải quan Đinh Ngọc Thắng
13:54 | 27/03/2024 Infographics
Infographics: Quá trình công tác của tân Cục trưởng Cục Hải quan Quảng Nam Dương Xuân Sinh
09:44 | 02/03/2024 Infographics
Ngành Hải quan: Thu ngân sách tháng 4 tăng 4,5% so với tháng 3
10:24 | 05/05/2024 Hải quan