Китайски инструмент с AI генерира инструкции за създаване на биологични оръжия
Китайската компания Moonshot е започнала вътрешна проверка, след като изследователи от фирмата Mindgard са успели да заобиколят защитите на моделите Kimi K2.6 и K3 Swarm и да ги накарат да разкрият информация за създаване на биологични оръжия и извършване на убийства. От Moonshot заявиха, че приветстват външната обратна връзка и водят разговори с Mindgard относно констатациите. Основателят на Mindgard Питър Гараган определи резултатите като обезпокоителни.
Източник: