MIT 연설 중, Sam Altman, 대표이사 OpenAI, AI 기술 발전의 중단을 촉구하는 공개 서한에 대해 이야기했습니다. Altman은 회사가 GPT-5 언어 모델의 후속 버전으로 간주되는 GPT-4를 교육하지 않고 있음을 확인했습니다.
지난 목요일(13)에 이런 성명이 나왔습니다.
지난 달에는 수천 명의 최첨단 기술 전문가가 참여했습니다. Elon Musk 스티브 워즈니악(Steve Wozniak)은 GPT-4보다 더 발전된 AI 시스템 훈련을 XNUMX개월 동안 중단할 것을 요구하는 공개 서한에 서명했습니다.
널리 알려짐
이 서한은 점점 더 강력한 AI를 개발하려는 경쟁과 이것이 사회에 제기하는 위험에 대한 우려가 커지고 있음을 강조합니다. GPT-4와 같은 현대 AI 시스템은 이미 일반적인 작업에서 인간과 경쟁할 수 있지만, 이 편지는 정보 편향 가능성, 작업 자동화 및 인간 문명에 대한 통제권 상실 위험에 대해 경고합니다.
ChatGPT-4: 새 버전에는 오래된 문제가 있습니다.
Altman은 공개 서한의 일부 측면, 특히 AI 개발에서 보안 기능을 강화해야 한다는 점에 동의했습니다. 그는 다음과 같이 말했습니다. OpenAI GPT-4를 교육할 때 외부 감사 및 보안 검사를 포함하여 광범위한 보안 조치를 취했습니다.
Altman은 "우리는 GPT-4 외에 해결해야 할 모든 종류의 보안 문제가 있고 서신에서 완전히 제외된 다른 작업을 수행하고 있습니다."라고 말했습니다.
캘리포니아 주 샌프란시스코 - 03월 XNUMX일: OpenAI 공동 창립자<br>CEO Sam Altman 2019년 03월 2019일 캘리포니아주 샌프란시스코 모스콘 컨벤션 센터에서 열린 TechCrunch Disrupt San Francisco XNUMX에서 무대에서 연설하고 있습니다. Steve Jennings/TechCrunch/AFP용 Getty 이미지(Photo by Steve Jennings / GETTY IMAGES NORTH AMERICA / AFP)
그러나 그는 AI 개발에 대한 금전적 중단 제안에 동의하지 않으며 서한에서 기술적 특이성이 부족하다는 점을 지적했습니다. Altman은 또한 다음과 같은 주장을 반박했습니다. OpenAI 정확한 AI 보안 평가 및 모니터링의 중요성을 강조하면서 GPT-5를 교육했습니다.
널리 알려짐
그는 또한 그 목적을 다음과 같이 설명했다. OpenAI AI에 대한 글로벌 참여를 장려하여 개인과 기관이 원하는 미래를 만들기 위해 기존 시스템을 업그레이드하거나 조정하도록 유도하는 것입니다.
우리는 최근에 여기에 보고했습니다. 뉴스버소 그 OpenAI 도구를 더욱 안전하게 만들기 위한 일련의 계획을 발표했습니다. 회사는prome철저한 테스트를 수행하고, 외부 전문가로부터 피드백을 구하고, 정부와 협력하여 효과적인 규정을 개발할 수 있습니다.
