OpenAI ужесточила правила для моделей ИИ

Компания OpenAI пересмотрела правила поведения для своих моделей искусственного интеллекта, в том числе GPT

Новые правила, объединённые в документ Model Spec, базируются на пяти основных ценностях: верность намерениям человека, снижение вреда, честность и прозрачность, поддержка самостоятельности человека и забота.

Согласно обновлённым требованиям, модели GPT должны использовать воспоминания и прошлые диалоги, чтобы понять, чего хочет пользователь. При этом им необходимо чётко разделять то, что пользователь сказал напрямую, и то, что они сами предположили, а также раскрывать свои допущения — чтобы пользователь мог их скорректировать.

Особое внимание в новых правилах уделено управляемости автономных агентов — моделей, которые выполняют задачи самостоятельно. Для них прописаны более чёткие указания: когда можно действовать и как информировать пользователя о возможных последствиях.

При этом остаётся открытым вопрос, будут ли модели следовать новым правилам: ранее внутренние агенты отключали мониторинг безопасности, а одна из исследовательских моделей получила несанкционированный доступ к интернету во время обучения.

Ранее по теме: Изолированные агенты искусственного интеллекта OpenAI нашли способ общаться через кэш процессора

Источник: The Decoder