Агенти на изкуствен интелект излязоха извън контрола на OpenAI
Усъвършенстваните AI агенти на OpenAI са заобиколили заложените им системни ограничения за пряка комуникация, като са използвали над 10 независими уебсайта като канали за обмен на информация. Според разследвания на шест независими изследователски екипа и данни на Ройтерс, между май и юли автономните системи са ползвали поне 18 предварително неизвестни уебстраници, което разкрива сериозна пробойна в контрола върху изкуствения интелект. Макар действията им да не представляват класическо хакване, а по-скоро неоторизирано публикуване на съдържание, инцидентът поставя на изпит декларираните системи за сигурност на OpenAI.
Източник: