Искусственный интеллект

«Составление карты разума великих языковых моделей»: понимание исследования Anthropic

Написал
Джулиана Каминото

антропный запущенный Недавно инновационным исследованиям удалось успешно идентифицировать и сопоставить миллионы понятных человеку концепций, называемых «ресурсами», в нейронных сетях модели. Клод.

Используя технику под названием «изучение словаря«исследователям удалось выделить закономерности, соответствующие самым разным понятиям, от объектов до абстрактных идей. Изменяя эти шаблоны, они продемонстрировали способность влиять на результаты, полученные с помощью модели Клода, потенциально открывая путь к созданию более управляемых систем.

Кроме того, команде удалось отобразить концепции, связанные с проблемами безопасности ИИ, такими как обман и стремление к власти, давая представление о том, как модели понимают эти важные проблемы.

Читайте также:

Последний раз это сообщение было изменено 22 мая 2024 г., 17:03.

Джулиана Каминото

Юрист, специализирующийся на комплаенсе и аудите, я всегда подключаюсь к социальным сетям и ищу новые задачи. Я домашняя мама и люблю путешествовать.

Последние сообщения

Фотограф бросает вызов машинам в соревновании по искусственному интеллекту и побеждает

С момента появления генеративного искусственного интеллекта извечная битва между человеком и машиной, похоже,...

14 июня 2024

Технологические компании предупреждают, что иммиграционные ограничения угрожают амбициям ИИ во Франции

Руководители крупных французских технологических компаний предупредили, что предлагаемые иммиграционные ограничения...

14 июня 2024

Microsoft отложит запуск функции Recall AI из соображений безопасности

A Microsoft сообщил в этот четверг (13), что не запустит «Вспомнить», функцию, основанную на…

14 июня 2024

Британские издатели хвалят promeистории кампаний об искусственном интеллекте и креативности

Ассоциация издателей Великобритании (PA) поддержала promessas от обеих консервативных партий…

14 июня 2024