Най-опасните рискове при използването на изкуствен интелект
Чатботовете могат да допускат грешки, да бъдат подвеждани от злонамерени инструкции и да обработват чувствителна информация, като рискът нараства, когато системата има достъп до поща, банкови услуги или служебни файлове. Най-опасните ситуации са свързани с прекомерни разрешения, неточни отговори и изтичане на информация извън организацията, тъй като AI агент може да бъде подведен от скрита злонамерена инструкция в уебстраница, имейл или документ. Затова финансовите преводи, изпращането на чувствителна информация и промяната на пароли трябва да изискват лично потвърждение, а на агентите да се предоставят само минимално необходимите права с човешки контрол при високорискови действия.
Източник: