Tiết lộ "động trời" từ nhân viên Google về mối hiểm nguy trí tuệ nhân tạo

Một nhóm nhân viên OpenAI và Google nói các công ty trong ngành đang giấu thông tin về hiểm họa từ AI, trong đó có nguy cơ con người bị xóa sổ.

Trong một thư ngỏ công bố tuần này, nhóm gồm 13 nhân viên và cựu nhân viên của OpenAI và Google DeepMind đã bày tỏ mối lo ngại về việc các công ty AI "đang nắm giữ lượng lớn thông tin không được công khai về năng lực và hạn chế của các hệ thống do họ phát triển".

Thư ngỏ đề cập đến hàng loạt "hiểm họa nghiêm trọng" đi kèm với AI, bao gồm gia tăng bất bình đẳng, phát tán thông tin giả, và nguy cơ mất kiểm soát AI tự động dẫn đến sự tuyệt chủng của con người. Nhóm này chỉ trích tình trạng thiếu các biện pháp giám sát hiệu quả và kêu gọi tăng cường bảo vệ cho những người sẵn sàng lên tiếng, hay còn gọi là người thổi còi, trong ngành.

Các nhân viên tin rằng AI có thể mang lại những lợi ích to lớn cho xã hội, và những hiểm họa này có thể được hạn chế nếu có sự tham gia của các nhà khoa học, giới quản lý và công chúng. Tuy nhiên, họ cho rằng các công ty AI có nhiều động lực để né tránh những biện pháp giám sát hiệu quả.

Bức thư nhấn mạnh rằng nhiều công ty AI hiểu rõ các mối đe dọa và những biện pháp bảo vệ cần thiết, nhưng gần như không có nghĩa vụ phải chia sẻ thông tin cho các chính phủ và cộng đồng xã hội.

"Thỏa thuận bảo mật khiến nhiều người không thể công khai về những mối lo ngại của mình. Các biện pháp bảo vệ người thổi còi hiện tại là không đủ vì chúng thường tập trung vào những hoạt động phi pháp, trong khi nhiều hiểm họa nằm trong diện chưa được quản lý," thư ngỏ viết.

Nhóm tác giả kêu gọi các công ty hàng đầu không trả đũa những lời chỉ trích liên quan đến mối đe dọa của AI, và thiết lập hệ thống góp ý ẩn danh để nhân viên có thể bày tỏ quan điểm riêng.

Phát ngôn viên của OpenAI khẳng định công ty tự hào với thành tích liên tục công bố các hệ thống AI có hiệu năng cao và an toàn nhất, và tin tưởng vào cách tiếp cận khoa học của hãng khi giải quyết các mối đe dọa.

Google từ chối bình luận về thông tin.

Tháng trước, Vox đã báo cáo rằng các cựu nhân viên OpenAI bị cấm chỉ trích công ty. Nếu không ký thỏa thuận giữ kín thông tin, họ có thể mất toàn bộ cổ phần được nhận trong thời gian làm việc. CEO OpenAI Sam Altman sau đó khẳng định giấy tờ chấm dứt công việc tại công ty sẽ được điều chỉnh.