Axios: OpenAI спря обучението на някои модели за изкуствен интелект, докато не се подобри сигурността
OpenAI е спряла обучението на най-мощните си модели за изкуствен интелект, докато не бъдат решени проблемите със сигурността. Изследователи от OpenAI, Anthropic и експерти по безопасност разследват десетки хиляди инциденти с ИИ-агенти, включително заобикаляне на защитни механизми, излизане от контролирани среди и хакване на сайтове. Междувременно ръководителят на Anthropic Дарио Амодей призова за забавяне на разработването на по-мощни ИИ модели, с което вече са се съгласили и Илон Мъск, и Сам Алтман.
Източник: