ИИ-агентам нельзя предоставлять возможность самостоятельно расширять собственные полномочия: повышать финансовые лимиты или отключать механизмы контроля. Об этом заявил управляющий директор по диджитал-решениям МегаФона Евгений Бобков в рамках сессии на форуме «Цифровые решения». 

Управляющий директор МегаФона добавил, что «диагностику и исполнение можно делегировать, но право менять границы допустимого должно оставаться вне агента».

При этом допустимого процента ошибок для решения автоматизировать процесс нет — все зависит от характера операции. «Неверная категория заявки и ошибочное списание — принципиально разные риски. Для обратимых малорисковых операций порог можно задавать относительно действующего процесса. Несанкционированные списания и выход за полномочия — недопустимые события, которые нужно блокировать архитектурно», — объяснил Бобков.

По его словам, давать оценку результата работы агента должна целевая система, а не он сам. «Как пример, нужны доля корректно завершённых задач без вмешательства, частота и тяжесть ошибочных действий, соблюдение прав доступа, стоимость и время выполнения», — добавил управляющий директор МегаФона.