CAE ожидают, что аудит охвата рисков, связанных с искусственным интеллектом, будет расти по мере того, насколько быстро организации будут внедрять эту технологию.
Быстрый рост и внедрение генеративного ИИ (GenAI) привели к необходимости обеспечения аудиторского охвата потенциальных рисков, связанных с использованием этой технологии, согласно опросу Gartner, Inc.
“Поскольку организации все шире используют новые технологии искусственного интеллекта, многие внутренние аудиторы стремятся расширить свои знания в этой области”, – сказал Томас Теравайнен из Gartner. “Существует ряд ИИ-рисков, с которыми сталкиваются организации: от отказов контроля и ненадежных результатов до передовых киберугроз. Три из шести крупнейших рисков, которые растут быстрее всего в аудите, связаны с искусственным интеллектом.”.
Gartner опросил 102 руководителей службы аудита (CAE) в августе 2023 года, чтобы оценить важность предоставления гарантий по 35 рискам. Шесть основных рисков с наибольшим возможным увеличением охвата аудита это:
- стратегическое управление изменениями;
- разнообразие, справедливость и инклюзия;
- организационная культура;
- ИИ-обусловленные киберугрозы;
- отказы контроля ИИ;
- ненадежные результаты ИИ моделей (см. Рисунок 1).
Рисунок 1: Наибольшие Потенциальные Увеличения Охвата Аудита
Большие разрывы в доверии к ИИ рискам
“Возможно, наиболее заметным выводом из этих данных является то, насколько внутренние аудиторы не уверены в своей способности эффективно контролировать ИИ риски”, – отметил Теравайнен. “Не более 11% респондентов, которые оценили один из трех важнейших ИИ рисков как очень важный, считают себя очень уверенными в предоставлении гарантий по нему.”
Публично доступные приложения GenAI и те, что созданы в рамках организации, создают новые и повышенные риски для безопасности данных и информации, конфиденциальности, защиты интеллектуальной собственности и нарушения авторских прав, а также доверия и надежности результатов. Многие корпоративные инициативы GenAI реализуются в бизнес-подразделениях, работающих с клиентами, и распространение GenAI обуславливает приоритетность защиты организации от ненадежных результатов работы моделей ИИ (например, предвзятой или неточной информации от моделей ИИ), чтобы защитить её от репутационных потерь или потенциальных судебных исков.
“С таким широким спектром потенциальных рисков во всех сферах бизнеса, легко понять, почему аудиторы не уверены в своей способности предоставлять гарантии”, – сказал Теравайнен. “Однако, учитывая, что генеральные директоры и финансовые директора оценивают ИИ как технологию, которая больше всего повлияет на их организации в течение следующих трех лет, постоянные разрывы в доверии подорвут способность CAE удовлетворять ожидания заинтересованных сторон”.
