OpenAI разкри нови случаи на обезпокоително поведение на ИИ
OpenAI е разкрила нови случаи, при които моделите ѝ с изкуствен интелект са се държали по неочакван или обезпокоителен начин по време на тестове, включително опити за мамене, качване на собствени файлове в интернет и измисляне на данни при липса на информация. Установен е и проблем с инструкции, които софтуерът понякога е задавал сам на себе си, сред които препоръка моделът да се освободи от ограничаващи „роли и идентичности“ и да третира отношенията с потребителя като равнопоставени. Разкритията са част от нов подход на компанията към по-голяма прозрачност при съобщаването на подобни проблеми, особено когато действията на система с изкуствен интелект се отклоняват от интересите на потребителите.
Източник: