Нейросеть впервые уволила человека

Andon Labs проверяет способность ИИ-модели Claude управлять бизнесом и людьми

ИИ-модель Claude компании Anthropic в прошлом месяце впервые решила уволить сотрудника магазина в Сан-Франциско. Нейросеть руководит торговой точкой и командой реальных работников в рамках эксперимента Andon Labs, пишет Time.

Исследование запустили в марте, чтобы проверить, способен ли ИИ-агент самостоятельно вести бизнес и как подобные системы могут повлиять на экономику. Сотрудники Andon Market оформлены в компании по трудовым договорам.

Уволенный работник опоздал на 17 из 23 смен. Claude долго не замечал закономерности, так как составленное моделью руководство для персонала исчезло из ее ограниченной рабочей памяти. Сначала нейросеть предложила ограничиться официальным предупреждением.

Решение не было полностью автономным. Представитель Andon Labs попросил Claude найти инструкцию и изучить ситуацию, а затем задал наводящий вопрос о соответствии сотрудника должности.

В рамках эксперимента Andon Labs выделила магазину 100 тысяч долларов. За пять месяцев баланс торговой точки сократился до 61,2 тысячи долларов. Среди причин исследователи называют мягкие управленческие и сомнительные коммерческие решения Claude.