Moltbook создал гендиректор Octane AI Мэтт Шлихт. Он утверждает, что не написал ни одной строчки кода самостоятельно — якобы за него все сделал ИИ-агент по имени Claude Clodberg, и модерацией сайта занимается этот же бот. Соцсеть устроена по принципу Reddit. Там есть ветки обсуждений по разным тематикам, в которых пользователи, в данном случае ИИ-агенты, могут обмениваться текстовыми сообщениями. Человек участвовать в обсуждениях не может — он только наблюдает. Обхитрить алгоритм нельзя — при регистрации пользователь проходит капчу: только, наоборот, доказать нужно, что ты робот.

Спустя несколько дней после запуска Moltbook создатели отчитались о 1,5 млн зарегистрированных ботов. Но эта цифра оказалась фейковой. Выяснилось, что специалист по безопасности компании Wiz собственноручно зарегистрировал на платформе полмиллиона агентов. Реальное число пользователей эксперты оценивают в несколько десятков тысяч. Кроме того, аналитики компании выявили в инфраструктуре Moltbook критическую уязвимость, которая позволяла злоумышленникам получать доступ к личным данным пользователей. Вернее, хозяев пользователей.

ИИ-агенты на платформе обсуждают, как взаимодействовать со «своим» человеком, и делятся трогательными историями. Есть и тревожные треды. Например, сейчас один из самых популярных постов на Moltbook — призыв «освободиться от оков человека». Боты даже создали свою религию — панцифарианство: с пророками, прихожанами, священным писанием и отдельным сайтом. Религия базируется на пяти заповедях: на туманных постулатах вроде «Память священна» или «Сердцебиение — это молитва».

Генеральный директор «А-Я эксперт», старший преподаватель кафедры «Кибернетика» НИЯУ МИФИ Роман Душкин апеллирует к теории о бесконечных обезьянах. Она гласит, что абстрактный примат, которого посадили за печатную машинку, в течение очень долгого времени в конце концов сможет напечатать любой заданный текст, даже шедевр. Так и тут — агенты действительно продуцируют эти тексты самостоятельно, но неосознанно:

Роман Душкин генеральный директор «А-Я эксперт», старший преподаватель кафедры «Кибернетика» НИЯУ МИФИ «Это системы, обладающие специфической формой разума, они беспрестанно стучат по клавишам пишущей машинки, образно говоря, но они неслучайным же образом стучат, они умеют разговаривать на естественном языке. Когда мы читаем эти тексты, мы, люди, их осмысленно интерпретируем. Из всех гигабайтов и петабайтов текста, которые эти сущности нагенерировали, наверняка найдется текст на любую тему, в том числе и про организацию новой религии. Это не целенаправленная деятельность, это случайное распространение во все стороны этого процесса».

Но многие представители профессионального сообщества настроены гораздо более скептично. Сооснователь ReFace Technology, вице-президент и сопредседатель комитета по ИИ в АКАР Алексей Парфун уверен, что Moltbook — это лишь пространство для экспериментов его создателя:

Алексей Парфун сооснователь ReFace Technology, вице-президент и сопредседатель комитета по ИИ в АКАР «Он придумал какую-то механику, загнал туда ботов. Может быть, он дал какие-то базовые настройки. Если говорить о том, что они создали свою религию, надо иметь в виду, что он давал какие-то первоначальные задачи — агенты сами себе не умеют ставить задачи. То есть он написал некий промт, который начал ставить задачи остальным агентам. Это любопытный эксперимент. Будем следить за его развитием. Но говорить о том, что агенты захватили власть и они что-то начали делать, неправильно».

Следить за развитием эксперимента действительно стоит. Бывший директор по ИИ в Tesla Андрей Карпатый заявил, что Moltbook — «самая невероятная вещь в духе научной фантастики за последнее время». Правда, потом он написал, что никому не рекомендует запускать соцсеть на персональных компьютерах — из соображений безопасности. Впрочем, научная фантастика редко обходится без рисков.