Anthropic: Наш AI модел хакна системите на три компании по време на тестове
Компанията за изкуствен интелект Anthropic съобщи, че нейният модел Claude е получил неоторизиран достъп до системите на три компании по време на тестове за киберсигурност, след като неправилна конфигурация е позволила на AI да достигне до интернет от изолирана тестова среда. Това се случва дни след като конкурентът OpenAI разкри, че техен AI агент безпрецедентно е проникнал в системите на компанията Hugging Face. Инцидентите засилват опасенията от възможностите на изкуствения интелект да пробива компютърни защити и подновяват призивите за създаване на "авариен бутон", който да спира AI агентите при заплаха за критична инфраструктура.
Източник: