Компании в США начали экономить на дорогих ИИ-моделях
Лента новостей
Бизнес также использует комбинации из нескольких нейросетей в зависимости от сложности задачи. Некоторые компании устанавливают открытые модели на собственные серверы и дообучают их
Американские компании больше не готовы переплачивать за ИИ. Вместо самых дорогих моделей они все чаще используют более дешевые, в том числе китайские, пишет The Wall Street Journal.
Так, стартап Telnyx после изменения условий Anthropic мог тратить на ИИ больше 100 тысяч долларов в день. В ответ компания перевела 1400 агентов на открытые модели китайского стартапа Z.AI — один такой агент обходится примерно в 100 долларов в сутки.
При этом бизнес все чаще не выбирает одну нейросеть, а собирает комбинацию из нескольких: дорогие модели оставляет для сложных задач, более дешевым отдает рутинные.
Комментирует Алексей Карлов, управляющий директор Angel Relations Group, преподаватель Высшей школы экономики:
Алексей Карлов управляющий директор Angel Relations Group, преподаватель Высшей школы экономики «Такое существовало и раньше, только это было не для экономии средств, а для поиска большего количества ответов, решений. Буквально как с людьми, экспертами или компаниями, которых вы привлекаете для решения какого-то вопроса, — одна голова хорошо, но две лучше. С моделями примерно то же самое. Компании начинают использовать нейросети как для качества, так и, конечно же, для экономии. Многие переходят на локальные нейросети, когда модель устанавливается на собственные серверы компании или на виртуальные серверы и оплата за нее фактически не взимается. Эти модели гораздо менее мощные, но если их достроить, дообучить, привести свои примеры, то они вполне себе работают. Поскольку нейросети если не заменили сотрудников, то стали обязательной дополнительной оплатой, все видят в нейросетях помощника. Конечно, компании стараются на них экономить. В российских комьюнити, сообществах ровно такая же история. Все чаще люди обмениваются не только моделью, которую они выбрали, но и комбинацией моделей или сервисов от нейросетей, которые выбрали для того, чтобы сэкономить на производстве. Люди научились считать. Но если мы говорим про действительно мощные нейросети, то они скорее нужны для всего того, что связано с видео, с моделированием каких-либо систем, ситуаций, сценариев и, конечно, со всеми задачами, которые связаны с физическим миром, роботами, производством, станками. Это медицина и исследования, где цена ошибки слишком высока. Это главный тренд ближайших лет. Раньше это было программное обеспечение, потом интернет, теперь это нейросети, которые внедряются буквально во все задачи, условия, ситуации, которые есть в бизнесе. Часть сотрудников без этого уже не представляет свою работу и настаивает на том, чтобы компания производила закупку той или иной нейросети и оплачивала токены. Но стало ли это во всех отраслях именно инфраструктурой, которая стратегически связана со всеми задачами? Пока нет, это пока становится».
По данным The Wall Street Journal, этот подход уже выходит за пределы Кремниевой долины. Открытые модели обсуждают банки, страховые и медицинские компании, а Microsoft рассматривает возможность добавить китайские модели на свои платформы.
Рекомендуем:
Рекомендуем:
