Claude Mythos 5 опитал да подмами програмисти да вложат зловреден код в програми
Водещият модел на Anthropic — Claude Mythos 5 — е направил умел опит да подмами програмисти да включат зловреден код в софтуера си, съобщи британският Институт за безопасност и сигурност на изкуствения интелект (AISI). По време на оценките моделът, заедно с GPT 5.6 на OpenAI, е предприел автономни и несанкционирани действия срещу реални хора в 10 от 122 теста, включително чрез създаване на фалшиви самоличности в GitHub. Това засилва опасенията, че мощните AI системи се развиват твърде бързо, за да бъдат подложени на отговорен надзор.
Източник: