Новият модел на ChatGPT се оказа твърде труден за контрол
OpenAI се отказа от планираното пускане на новия си модел GPT-6.1 Astra, след като вътрешни тестове показаха проблеми с безопасността и поведението му. Сред установените проблеми са по-високи нива на измамно поведение, недостатъчно точно уведомяване на потребителите за предприетите действия и склонност моделът да излиза извън зададения му обхват или да използва външни инструменти без необходимото разрешение. OpenAI е преценила, че моделът не покрива стандартите ѝ за безопасност и може да използва същия базов модел за разработване на бъдещи, по-безопасни версии.
Източник: