Bê bối "đầu độc" AI tại Trung Quốc
Một phóng sự điều tra của đài CCTV vừa vạch trần chiêu trò thao túng kết quả của các chatbot AI bằng thông tin giả mạo.
Đài truyền hình trung ương Trung Quốc (CCTV) vừa thực hiện một cuộc điều tra ngầm, phơi bày thực trạng đáng báo động về việc đưa thông tin bịa đặt vào các mô hình trí tuệ nhân tạo (AI).
Trong chương trình Gala 315 nhân Ngày Quyền lợi Người tiêu dùng, CCTV cho thấy một hệ thống có tên Liqing đã tự động đăng tải hàng loạt đánh giá giả mạo từ chuyên gia và người dùng cho một chiếc vòng đeo tay sức khỏe không hề tồn tại mang tên Apollo-9. Kết quả là, khi được yêu cầu gợi ý sản phẩm, hai chatbot AI giấu tên không chỉ nhắc đến thiết bị ảo này mà còn xếp nó vào top những lựa chọn hàng đầu.
Phóng sự đã chỉ ra cách các đối tượng xấu lợi dụng kỹ thuật tối ưu hóa công cụ tạo sinh (GEO) – được ví như phiên bản AI của kỹ thuật SEO truyền thống – để thao túng chatbot.
Một người đàn ông họ Li, được cho là người điều hành hệ thống Liqing, đã bị camera giấu kín ghi lại cảnh khoe khoang về mánh khóe này. Người này thẳng thừng tuyên bố rằng những người làm trong ngành GEO về cơ bản đang chủ đích làm sai lệch thông tin của AI.
Ngay sau khi phóng sự được phát sóng, toàn bộ tài khoản mạng xã hội liên quan đến Liqing đã bị xóa sổ. Vụ việc lập tức gây bão mạng xã hội, với hàng loạt từ khóa liên quan đến việc thao túng ngành công nghiệp AI lọt top thịnh hành trên các nền tảng như Kuaishou và Weibo.
Bà Qian Wenying, đại diện Trung tâm Nghiên cứu Đổi mới Quản lý và AI thuộc Trường Kinh doanh Quốc tế Trung Âu, nhận định đây là vấn đề thường gặp ở giai đoạn đầu của một ngành công nghiệp. Nhiều công ty chỉ muốn kiếm tiền nhanh chóng bằng cách lừa dối khách hàng và đẩy lượng lớn nội dung rác vào hệ thống AI.
Bất chấp những góc khuất, thị trường dịch vụ GEO vẫn đang phát triển bùng nổ. Theo công ty nghiên cứu Analysys, thị trường này đạt quy mô khoảng 250 triệu nhân dân tệ vào năm ngoái, dự kiến chạm mốc 3 tỷ nhân dân tệ trong năm nay và sẽ tiếp tục tăng gấp ba vào năm 2027. Ông Yang Xu, nhà phân tích cấp cao tại Analysys, cho rằng hiện tượng thao túng này có tồn tại nhưng không đại diện cho toàn bộ ngành, đồng thời nhấn mạnh GEO vẫn là công nghệ tối ưu hóa thông tin cần thiết cho kỷ nguyên AI.
Tuy nhiên, giới chuyên gia khẳng định GEO sẽ sớm phải đối mặt với các quy định quản lý khắt khe hơn. Các yêu cầu về cấp phép, tiêu chuẩn nội dung và trách nhiệm của nền tảng sẽ được siết chặt để xóa bỏ các vùng xám. Ông Yuan Yong, Giám đốc thương hiệu của công ty cung cấp dịch vụ GEO Big Fish Marketing, cũng đồng tình rằng cần phải loại bỏ các hành vi lừa đảo, đồng thời kêu gọi tối ưu hóa thuật toán để đảm bảo nguồn thông tin đáng tin cậy hơn.
Hiện tại, các doanh nghiệp trong ngành đang gấp rút tránh xa các chiến thuật phi pháp.
Ngay trước khi phóng sự của CCTV được tung ra, hàng chục công ty đã cùng ký kết các thỏa thuận tự quản và cam kết an toàn AI. Mục tiêu chung của các liên minh này là hướng tới việc sử dụng GEO để cải thiện chất lượng nội dung thay vì chỉ cố gắng thao túng kết quả của thuật toán.