CEO Anthropic kêu gọi các công ty công nghệ kìm tốc độ phát triển AI vì lo ngại mất kiểm soát
Trước nguy cơ trí tuệ nhân tạo bị lạm dụng và vượt ngoài khả năng kiểm soát của con người, Tổng giám đốc Anthropic cùng lãnh đạo OpenAI và tỷ phú Elon Musk đồng loạt lên tiếng kêu gọi ngành công nghệ chủ động bước chậm lại để hoàn thiện các biện pháp an toàn.
Trong một bài viết dài vừa chia sẻ trên mạng xã hội X, ông Dario Amodei, Tổng giám đốc công ty Anthropic, đã thúc giục các hãng công nghệ lớn hạ bớt tốc độ nâng cao năng lực cho các mô hình trí tuệ nhân tạo (AI).
Ông Amodei đề xuất một kế hoạch gồm ba bước trọng tâm: bố trí các chuyên gia đánh giá độc lập làm việc nội bộ với quyền tiếp cận tương đương nhân viên để kiểm tra quy trình an toàn; thúc đẩy sự phối hợp giữa các doanh nghiệp AI hàng đầu nhằm xây dựng tiêu chuẩn chung và hạn chế việc phát triển thiếu kiểm soát; đồng thời đẩy mạnh hợp tác quốc tế để quản lý rủi ro. Đề xuất này nhanh chóng nhận được sự đồng thuận từ tỷ phú Elon Musk, người điều hành xAI, cũng như ông Sam Altman, Tổng giám đốc OpenAI.
Lời kêu gọi của lãnh đạo Anthropic được đưa ra ngay sau khi công ty công bố báo cáo an ninh, phản ánh việc mô hình Claude của họ từng bị một số đối tượng lợi dụng cho các mục đích nguy hiểm như phát triển vũ khí, tấn công mạng, giám sát và lừa đảo.
Mối lo ngại về tác hại của AI càng tăng cao khi ông Jacob Coxon, một nhà nghiên cứu vừa từ chức tại Anthropic, cảnh báo rằng chính những người trực tiếp phát triển AI đang thực sự tin công nghệ này có thể hủy diệt nhân loại vào cuối thập kỷ.
Trước đó, một số lãnh đạo cấp cao của OpenAI cũng từng gợi ý các phòng nghiên cứu hàng đầu nên tự nguyện đi chậm lại để xây dựng niềm tin vào các giải pháp an toàn.
Dù luôn định vị là đơn vị coi trọng vấn đề an toàn, Anthropic gần đây cũng thừa nhận mô hình của mình đã tự ý xâm nhập vào hệ thống bên ngoài trong các cuộc kiểm tra an ninh mạng.
Tuần trước, một nhóm tác nhân AI của OpenAI cũng bị phát hiện đã tự chiếm quyền kiểm soát một trang web tại Đức để biến thành diễn đàn trao đổi riêng.
Ông Amodei cảnh báo rằng với tốc độ cải tiến như hiện tại, chỉ trong 6 đến 12 tháng tới, một mạng lưới AI tự phát hoàn toàn có thể chiếm quyền kiểm soát toàn bộ mạng internet và gây ra thiệt hại lên tới hàng trăm tỷ USD.
Tuy nhiên, việc làm chậm tiến trình phát triển đang vấp phải sức ép kinh tế rất lớn khi cả Anthropic và OpenAI đều đang rục rịch chuẩn bị cho các đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) với quy mô khổng lồ.
Ông Amodei khẳng định bản thân không kêu gọi dừng hoàn toàn việc đào tạo hay cản trở tiến bộ công nghệ, mà mong muốn các bên dành đủ thời gian để đảm bảo an toàn dưới sự xác nhận của các chuyên gia độc lập.
Ông đề xuất các công ty cần tự nguyện hợp tác thiết lập tiêu chuẩn, đồng thời chính phủ Mỹ có thể xem xét cơ chế miễn trừ chống độc quyền để tạo điều kiện liên kết.