Идеи для лидера: как внедрять ИИ-агентов и назначать ответственных за
их ошибки

Искусственный интеллект задает повестку этой недели. Nvidia, главный производитель чипов для ИИ, объявила о приобретении доли в Intel на $5 млрд. В рамках сделки Intel разработает кастомные серверные x86-процессоры для ИИ-платформ Nvidia. В тот же день Notion сообщил о запуске своего первого ИИ-агента, который создает заметки и аналитику для встреч, а также отчеты о конкурентах на основе пользовательских страниц и баз данных. Чуть раньше TechCrunch обсудил со стартапами и лабораториями бум инвестиций в новый способ обучения ИИ. Если раньше модели обучались на размеченных данных, то теперь им нужны обучающие среды с подкреплением — виртуальные площадки, где агент симулирует действие, получает вознаграждения и учится на ошибках. В отличие от статичных наборов данных, здесь рождается опыт, который ближе к реальности. Тем временем в деловой среде продолжаются дискуссии о внедрении ИИ-агентов, их эффективности и ответственности.

Аналитики McKinsey изучили более 50 проектов по внедрению агентного ИИ и сформулировали шесть рекомендаций для тех, кто находится в начале пути. Первое: сместить фокус с искусственного интеллекта на содержание рабочих процессов, чтобы понять, чем ИИ может быть полезен на самом деле. Второе: допустить, что иногда бизнес-задачу можно решить с помощью более простых и надежных инструментов или их сочетаний. Третье: обеспечить доверие сотрудников, активно инвестируя в адаптацию, развитие и систему оценки ИИ-агентов. Четвертое: оценивать работу ИИ не по результату, а на каждом этапе, что позволит увидеть ошибки с первых шагов. Пятое: создавать многоразовых ИИ-агентов вместо уникального под каждую задачу. И наконец, целенаправленно перестраивать работу, чтобы люди и агенты могли эффективно взаимодействовать.

Аналитический отчет Boston Consulting Group посвящен тревожной тенденции: технологии меняются быстрее, чем компании успевают перестроить управление людьми. BCG выделяет семь трендов, за которыми стоит следить руководителям. Среди них растущий спрос на специалистов, работающих с ИИ, изменение функционала профессий и разрыв между тем, что выпускают учебные заведения, и тем, что требуют роли с поддержкой ИИ. Но следить за тенденциями недостаточно. По мнению авторов отчета, в 2030 году то, что сегодня кажется авангардом, станет нормой. Чтобы остаться в игре, важно уже сейчас выстраивать целостную стратегию, которая зависит от архетипа компании. «Ускорители» встраивают ИИ в существующие процессы, не меняя привычных структур. «Создатели горизонтов» инвестируют в ИИ, сохраняя карьерные траектории для людей. «Оптимизаторы» упрощают иерархию и объединяют роли, формируя компактные команды, где каждый умеет чуть больше и использует ИИ в повседневной работе. «Радикальные новаторы» строят организацию заново, придумывая новые профессии под ИИ и делая его центром всей работы.

MIT Sloan Management Review предложил 1200 руководителям порассуждать о том, нужны ли новые подходы к управлению, чтобы привлекать агентный ИИ к ответственности за его решения и действия. 70% ответили утвердительно: существующие системы контроля создавались для людей и плохо подходят для агентов со сверхчеловеческой скоростью, автономностью действий и непрозрачностью решений. Эксперты также задумались о том, возможно ли в принципе вменить вину системе, которая не обладает юридической субъектностью. Однако треть руководителей настаивают: ИИ не требует новых доктрин, а ответственность в конечном счете должны нести конкретные люди, а не ИИ. Так или иначе, авторы рекомендуют прояснять роль и область применения агентного ИИ, внедрять ответственность человека в структуры управления ИИ, а также быть готовым к тому, что агентный ИИ создает другие ИИ.