Trong bài phát biểu tại MIT, Sam Altman, Giám đốc điều hành của OpenAI, nói về bức thư ngỏ kêu gọi tạm dừng sự tiến bộ của công nghệ AI. Altman khẳng định công ty không đào tạo GPT-5, được coi là phiên bản kế thừa của mô hình ngôn ngữ GPT-4.
Tuyên bố được đưa ra vào thứ Năm tuần trước (13).
Tháng trước, hàng ngàn chuyên gia công nghệ tiên tiến, bao gồm Elon Musk và Steve Wozniak, đã ký một bức thư ngỏ kêu gọi tạm dừng sáu tháng trong việc đào tạo các hệ thống AI tiên tiến hơn GPT-4.
QUẢNG CÁO
Bức thư nhấn mạnh mối lo ngại ngày càng tăng về cuộc đua phát triển AI ngày càng mạnh mẽ và những rủi ro mà điều này gây ra cho xã hội. Mặc dù các hệ thống AI hiện đại như GPT-4 đã có thể cạnh tranh với con người trong các nhiệm vụ chung, nhưng bức thư cảnh báo về khả năng sai lệch thông tin, tự động hóa công việc và nguy cơ mất quyền kiểm soát đối với nền văn minh nhân loại.
ChatGPT-4: phiên bản mới có vấn đề cũ
Altman đồng ý với một số khía cạnh của bức thư ngỏ, đặc biệt liên quan đến nhu cầu tăng cường khả năng bảo mật trong phát triển AI. Ông tuyên bố rằng OpenAI đã thực hiện các biện pháp bảo mật mở rộng khi đào tạo GPT-4, bao gồm kiểm tra bên ngoài và kiểm tra bảo mật.
Altman nói: “Chúng tôi đang làm những việc khác ngoài GPT-4 mà tôi nghĩ có tất cả các loại vấn đề bảo mật quan trọng cần giải quyết và hoàn toàn không được đưa ra trong thư”.
SAN FRANCISCO, CALIFORNIA – NGÀY 03 THÁNG XNUMX: OpenAI Đồng sáng lập & Giám đốc điều hành Sam Altman phát biểu trên sân khấu trong TechCrunch Disrupt San Francisco 2019 tại Trung tâm Hội nghị Moscone vào ngày 03 tháng 2019 năm XNUMX tại San Francisco, California. Steve Jennings/Getty Images cho TechCrunch/AFP (Ảnh của Steve Jennings / HÌNH ẢNH GETTY BẮC MỸ / AFP)
Tuy nhiên, ông không đồng tình với đề xuất tạm dừng tiền tệ đối với việc phát triển AI và lưu ý rằng bức thư thiếu tính cụ thể về mặt kỹ thuật. Altman cũng bác bỏ tuyên bố rằng OpenAI đang đào tạo GPT-5, nhấn mạnh tầm quan trọng của việc đánh giá và giám sát bảo mật AI chính xác.
QUẢNG CÁO
Ông giải thích thêm rằng mục tiêu của OpenAI là khuyến khích sự tham gia toàn cầu với AI, thúc đẩy các cá nhân và tổ chức nâng cấp hoặc điều chỉnh các hệ thống hiện có để tạo ra tương lai mong muốn.
Gần đây chúng tôi đã báo cáo ở đây về Tin tức xếp hàng OpenAI đã công bố một loạt sáng kiến nhằm làm cho công cụ này trở nên an toàn hơn. Công ty cópromecủa bạn để tiến hành kiểm tra kỹ lưỡng, tìm kiếm phản hồi từ các chuyên gia bên ngoài và cộng tác với các chính phủ để phát triển các quy định hiệu quả.
