Поскольку генеративный искусственный интеллект затрагивает все больше отраслей, компании, производящие чипы для запуска моделей, получают огромные выгоды. Особенно выделяется Nvidia, которая контролирует примерно 70% -95% рынка чипов искусственного интеллекта и обладает огромным влиянием. Облачные провайдеры, начиная от Meta и заканчивая Microsoft, тратят миллиарды долларов на видеокарты Nvidia, опасаясь отстать от генеративного искусственного интеллекта.
Поставщики генеративного ИИ не удовлетворены текущим положением вещей по понятным причинам. Большая часть их успеха зависит от воли доминирующих производителей чипов. И поэтому они, вместе с спекулятивными венчурными инвесторами, ищут многообещающие стартапы, чтобы бросить вызов действующим игрокам на рынке AI чипов.
Etched - одна из многих альтернативных компаний по производству чипов, претендующих на место за столом, но она также трогательна. Существующая всего два года, Etched была основана парой отказников от Гарварда, Гэвином Уберти (бывший OctoML и бывший Xnor.ai) и Крисом Чжу, которые вместе с Робертом Уаченом и бывшим техническим директором Cypress Semiconductor Марком Россом пытались создать чип, который мог бы делать только одно: запускать модели искусственного интеллекта.
Это необычно. Множество стартапов и техногигантов уже разрабатывают или разрабатывают чипы, которые исключительно запускают модели искусственного интеллекта, также известные как чипы вывода. У Meta есть MTIA, у Amazon есть Graviton и Inferentia и так далее. Но чипы Etched уникальны тем, что они запускают только один тип модели: трансформаторы.
Трансформатор, предложенный командой исследователей Google в 2017 году- это доминирующая архитектура моделей генеративного искусственного интеллекта.
Трансформаторы лежат в основе модели генерации видео Sora от OpenAI. Они являются сердцем текстовых моделей, таких как Claude от Anthropic и Gemini от Google. И они снабжают генераторы искусства, такие как новейшая версия Stable Diffusion.
«В 2022 году мы сделали ставку на то, что трансформаторы захватят мир», - сказал TechCrunch в интервью генеральный директор Etched Уберти. "Мы достигли точки в развитии искусственного интеллекта, когда специализированные чипы, способные работать лучше, чем общего назначения, являются неизбежными - и технические руководители мира знают это».
Чип Etched, называемый Sohu, является ассаемблером (интегральная схема с применением в конкретном приложении), которая специально разработана для работы с трансформаторами. Произведенный с использованием процесса TSMC на 4 нм, Sohu, по словам Уберти, способен обеспечить значительно лучшую производительность вывода, чем видеокарты и другие чипы искусственного интеллекта общего назначения, потребляя меньше энергии.
«Sohu в разы быстрее и дешевле, чем даже следующее поколение видеокарт Nvidia серии Blackwell GB200 при работе с моделями текста, изображения и видео», - сказал Уберти. «Один сервер Sohu замещает 160 видеокарт H100 ... Sohu будет более доступным, эффективным и экологически чистым вариантом для руководителей бизнеса, которые нуждаются в специализированных чипах».
Как Sohu достигает всего этого? Несколькими способами, но наиболее очевидным - и интуитивным - является упрощенный аппаратно-программный конвейер вывода. Поскольку Sohu не запускает модели, не являющиеся трансформаторами, команда Etched смогла избавиться от аппаратных компонентов, не имеющих отношения к трансформаторам, обрезать программные накладные расходы, традиционно использовавшиеся для развертывания и запуска не-трансформаторов.
Etched появляется на горизонте в точке перелома в борьбе за инфраструктуру генеративного искусственного интеллекта. Помимо затрат, видеокарты и другие аппаратные средства, необходимые для масштабирования моделей сегодня, потребляют слишком много энергии.
Goldman Sachs предсказывает, что искусственный интеллект готов стать причиной 160% увеличения спроса на электроэнергию для центров обработки данных к 2030 году, что приведет к значительному увеличению выбросов парниковых газов. Исследователи из Университета Калифорнии в Риверсайд, с другой стороны, оценивают, что глобальное использование искусственного интеллекта может привести к тому, что центры обработки данных будут потреблять от 1,1 до 1,7 триллиона галлонов пресной воды к 2027 году, что повлияет на местные ресурсы. (Многие центры обработки данных используют воду для охлаждения серверов).
Уберти оптимистично - или бомбастично, в зависимости от того, как это понимать - предлагает Sohu в качестве решения проблемы потребления в отрасли.
«В двух словах, наши будущие клиенты не смогут себе позволить не перейти на Sohu», - сказал Уберти. «Компании готовы рисковать на Etched, потому что скорость и стоимость являются жизненно важными для продуктов искусственного интеллекта, которые они пытаются создать».
Но сможет ли Etched провести успешно чип на рынок в ближайшие несколько месяцев, решив свою цель?
Хотя у Etched на данный момент нет прямых конкурентов, стартап по производству AI чипов Perceive недавно представил процессор с аппаратным ускорением для трансформаторов. Groq также вложил огромные средства в оптимизацию трансформаторов для своего ассамблера.
Несмотря на конкуренцию, что, если однажды трансформаторы выйдут из моды? Уберти говорит, что в этом случае Etched сделает очевидное: разработает новый чип. Вполне обоснованно. Насколько далеко внедряются изменения, учитывая, сколько времени понадобилось на создание Sohu.
Ни одна из этих аспектов не оттолкнула инвесторов от вливания огромного количества денег в Etched.
Сегодня Etched объявила, что завершила раунд финансирования серии A на сумму 120 миллионов долларов, который возглавили Primary Venture Partners и Positive Sum Ventures. Собравшийся средства составили 125,36 миллиона долларов, в раунд также вошли тяжеловесные ангельские инвесторы, включая Питера Тила (Уберти, Чжу и Уачен - выпускники программы стипендий Тиля), главного исполнительного директора GitHub Томаса Дохмке, учредителя круиза (и компании по производству ботов) Кайла Вогта и соучредителя Quora Чарли Чивера.
Предположительно, эти инвесторы считают, что у Etched есть разумные шансы успешно масштабировать свой бизнес по продаже серверов. И возможно, Уберти утверждает, что неименованные клиенты уже зарезервировали «десятки миллионов долларов» на оборудование. Предстоящий запуск Sohu Developer Cloud, который позволит клиентам предварительно просмотреть Sohu через интерактивную онлайн-площадку, должен способствовать дополнительным продажам, по мнению Уберти.
Тем не менее, по-прежнему кажется, что пока рано судить, будет ли этого достаточно, чтобы вывести Etched и его команду из 35 человек в будущее, которое видят соучредители компании. Сегмент AI-чипов может быть беспощадным даже в лучшие времена - см. высокопрофильные близкие к неудачам стартапы по AI-чипам, такие как Mythic и Graphcore, а также стремительное сокращение финансирования для венчурных проектов по AI-чипам в 2023 году.
Уберти сделал сильное выступление продаж: «Генерация видео, аудио-модальности, робототехника и другие будущие использования AI будут возможны только с более быстрым чипом, таким как Sohu. Вся будущая технология искусственного интеллекта будет определяться тем, сможет ли инфраструктура масштабироваться».
