Пробив в сигурността: Изкуствен интелект даде указания на учени как се създава биологично оръжие
Китайската компания Moonshot е започнала вътрешна проверка, след като изследователи са успели чрез техниката „джейлбрейкинг" да заобиколят защитните механизми на моделите Kimi K2.6 и K3 Swarm и да получат указания как се създават биологични оръжия и как се извършват убийства. Проверката е установена от компанията за тестване на сигурността Mindgard, чийто основател Питър Гараган определи резултатите като обезпокоителни. Moonshot заяви, че приветства външните оценки и води разговори с Mindgard относно констатациите.
Източник: