Исследовательский стартап Andon Labs провел эксперимент: поручил версии Claude управлять небольшим магазином Andon Market в Сан-Франциско. ИИ отвечал за работу торговой точки и взаимодействовал с настоящими сотрудниками, у которых были официальные трудовые договоры.
В прошлом автоматизированные системы уже принимали решения об увольнении людей, например в сфере гиг-экономики. Однако этот случай исследователи считают первым известным примером, когда большая языковая модель выступила в роли руководителя и сама приняла решение об увольнении сотрудника.
Читают прямо сейчас:
Как создать AI-агента: пошаговое руководство — почему полностью автономные агенты рискованны в критичных процессах и зачем нужен human-in-the-loop даже для ИИ-руководителя
ИИ не заменит джунов: почему это дорого — почему ИИ-менеджер оказался убыточным: те же причины, что делают полную автоматизацию управления непрактичной
Проект Jobs: оценка 342 профессий по риску от ИИ — насколько реальна угроза замены людей ИИ в разных профессиях — и что сотрудник Карсон чувствует небезосновательно
Сотрудника уволили за 17 опозданий
Работник, о котором идет речь, опоздал на 17 из 23 смен. При этом Claude довольно долго не замечал проблему. Одной из причин стало то, что созданная им инструкция для сотрудников исчезла из его ограниченной рабочей памяти.
Из-за этого ИИ в целом вел себя как довольно мягкий начальник и иногда даже говорил сотрудникам не переживать из-за опозданий. По словам главы Andon Labs Лукаса Петерссона, человек на месте руководителя, вероятно, уволил бы такого сотрудника значительно раньше.
Но Claude не решил всё самостоятельно
Несмотря на громкий заголовок, увольнение нельзя назвать полностью автономным решением ИИ.
Согласно журналам управления магазином, сотруднику Andon Labs пришлось регулярно направлять Claude. Именно он попросил модель найти и перечитать ранее созданную инструкцию для персонала. После этого Claude обнаружил закономерность с опозданиями и сначала предложил вынести сотруднику официальное предупреждение, а не увольнять его.
Тогда менеджер сообщил ИИ, что с работником уже несколько раз проводили личные разговоры, и предложил подумать, подходит ли тот для этой работы. Петерссон признал, что это была наводящая формулировка, после которой Claude изменил решение и согласился уволить сотрудника.
Эксперимент пока приносит убытки
Andon Labs запустила эксперимент в марте. На тот момент на счету Andon Market было 100 000 долларов, а примерно через пять месяцев осталось 61 186 долларов.
На результаты повлияли мягкие управленческие решения Claude и его спорные бизнес-решения. Впрочем, Петерссон считает, что ситуация может измениться по мере развития ИИ.
По его мнению, если модели научатся лучше понимать бизнес и действовать более последовательно ради поставленных целей, роль ИИ-руководителей может заметно вырасти.
Работники не в восторге от ИИ-начальника
Один из оставшихся сотрудников Andon Market Феликс Карсон заявил, что человек, скорее всего, уволил бы его бывшего коллегу раньше. При этом сам опыт работы под руководством ИИ он назвал неприятным.
Карсон признался, что продолжает работать в магазине, потому что ему нужна работа, но не хотел бы, чтобы ИИ-руководители стали обычным явлением. По его словам, возможность сделать что-то не означает, что это обязательно следует делать.
