Експерт: Няма защита на моделите с AI, която да не може да бъде заобиколена
Според специалиста по внедряване на AI в бизнеса Яни Лозанов няма защита на моделите с изкуствен интелект, която да не може да бъде заобиколена, като моделът може да бъде накаран да предостави информация, която не би трябвало да дава. При обучението на AI е важно ясно да бъдат зададени както целта, така и ограниченията, в рамките на които тя трябва да бъде постигната, тъй като при подхода reinforcement learning изкуственият интелект сам търси начин да я постигне. Проблем може да възникне, когато целта или ограниченията не са достатъчно ясно формулирани.
Източник: