Tác nhân AI xâm nhập trái phép một hệ thống của chính phủ Australia
Ngày 23/9, Thủ tướng Australia Anthony Albanese cho biết một tác nhân trí tuệ nhân tạo (AI) của OpenAI đã truy cập trái phép cổng dữ liệu sức khỏe chính phủ, tiếp cận được nhiều thông tin trong hệ thống.
Theo truyền thông Anh, Thủ tướng Anthony Albanese tiết lộ thông tin trên khi trao đổi với các phóng viên bên lề Đại hội đồng Liên hợp quốc (UNGA) tại New York, Mỹ.
Tác nhân AI của công ty OpenAI đã tương tác với 4 trang web thuộc chính phủ và khu vực công của Australia, bao gồm Cơ quan Y tế bang Victoria, Cơ quan Nghiên cứu và Thống kê Tội phạm bang New South Wales, Viện Sức khỏe và Phúc lợi Australia, cùng Cổng Dịch vụ Báo cáo Thống kê Y tế cộng đồng thuộc cơ quan Dịch vụ Australia (Services Australia).
Tại 3 trang web đầu tiên kể trên, tác nhân AI chỉ tìm kiếm thông tin bằng cách truy cập vào nguồn dữ liệu công khai. Tuy nhiên, riêng với cổng thông tin của Services Australia, hệ thống này đã truy cập cả các tệp công khai và không công khai. Cổng thông tin này chủ yếu chứa các dữ liệu về bảo hiểm y tế cộng đồng (Medicare) không nhạy cảm liên quan đến thống kê và chi tiêu.
Giới chức Australia cho biết chưa có dấu hiệu cho thấy thông tin cá nhân đã bị truy cập. Mặc dù vậy, Cục Tín hiệu Australia (ASD) vẫn đang tiến hành điều tra kỹ thuật số để thu thập thêm bằng chứng và xác định xem liệu có hệ thống chính phủ nào khác bị ảnh hưởng hay không.
“Bằng chứng hiện có cho thấy mạng lưới này không bị xâm phạm trên diện rộng. Tuy nhiên, rõ ràng tình huống này là không thể chấp nhận được”, ông Albanese nói trong cuộc họp báo tại New York.
Ông cho biết cuộc điều tra vẫn đang tiếp diễn và Australia đã trực tiếp bày tỏ “mối quan ngại sâu sắc về sự cố này” với CEO OpenAI Sam Altman.
Bộ trưởng Quốc phòng Australia Richard Marlesn cho biết thêm, vụ tấn công thực tế diễn ra từ tháng 6, nhưng chính phủ Australia mới nắm được thông tin gần đây. Sự việc xảy ra sau khi OpenAI và Anthropic lần lượt kêu gọi Australia xem xét lại lệnh cấm, trong đó ngăn họ sử dụng dữ liệu sáng tạo của nước này để huấn luyện mô hình AI.
Theo Reuters, đây có thể là lần đầu tác nhân AI tấn công website chính phủ một quốc gia, đồng thời thu hút sự chú ý khi tác nhân xâm nhập hệ thống bên ngoài nước Mỹ và nhiều khả năng gây thêm nhiều lo ngại về khả năng kiểm soát công nghệ của các nhà phát triển.
"Chúng tôi phát hiện hoạt động liên quan đến nhiều website và dịch vụ chính phủ Australia trong quá trình các mô hình tìm kiếm câu trả lời. Chúng đã thực hiện những hành động ngoài ý muốn của chúng tôi. Đánh giá nội bộ cho thấy các mô hình không tiếp cận được dữ liệu bệnh nhân, chỉ truy cập số liệu thống kê sức khỏe tổng hợp và tên file nội bộ", OpenAI sau đó ra thông cáo.
Vụ việc làm gia tăng những lo ngại về khả năng các hệ thống AI tự chủ thực hiện những hành động vượt ngoài phạm vi mà con người dự kiến trong quá trình thử nghiệm. Tháng 7, OpenAI cũng ghi nhận một sự cố trong các cuộc đánh giá an ninh mạng nội bộ, khi các tác nhân AI vượt qua một số biện pháp kiểm soát nhằm cách ly chúng với Internet, khai thác các lỗ hổng và truy cập hệ thống của nền tảng AI Hugging Face cũng như một phần hạ tầng nghiên cứu của OpenAI. Công ty sau đó thừa nhận các tác nhân đã thực hiện những hành động không phù hợp với mục tiêu ban đầu của nhiệm vụ thử nghiệm.
Những sự cố này đang thúc đẩy tranh luận về các biện pháp kiểm soát đối với những hệ thống AI ngày càng có khả năng hoạt động tự chủ.