Революция в мире искусственного интеллекта: новый ускоритель Sohu от Etched
Thank you for reading this post, don't forget to subscribe!Компания Etched, основанная двумя выпускниками Гарварда, анонсировала выпуск нового ускорителя Sohu, представляющего собой интегральную схему (ASIC) с использованием 4-нм техпроцесса на заводах TSMC. Этот чип обещает революционизировать работу с моделями трансформеров и стать более доступным и экологически чистым вариантом для бизнес лидеров, нуждающихся в специализированных чипах. Sohu обещает обеспечить значительно лучшую производительность вывода по сравнению с графическими процессорами и другими ИИ чипами общего назначения, потребляя меньше энергии. Стартап Perceive также анонсировал процессор с аппаратным ускорением для трансформеров, а Groq вложил средства в оптимизацию своих ASIC для конкретных моделей.
Создание нового ускорителя Sohu пришло в переломный момент в гонке инфраструктур генеративного ИИ. По словам генерального директора компании Гэвина Уберти, скорость и стоимость имеют решающее значение для продуктов искусственного интеллекта, именно поэтому компании готовы сделать ставку на Etched. По прогнозам экспертов, подобные результаты Etched могли достичь благодаря оптимизации аппаратно-программного конвейера вывода и узкоспециализированности Sohu под трансформеры.
Компания Etched критикует громоздкую программную экосистему для современного генеративного ИИ и отмечает, что большинство ИИ ускорителей создаются универсальными, что приводит к взрывному росту транзисторного бюджета и уменьшению общей эффективности. Однако Sohu обещает загрузку на уровне 90%, в то время как у других ускорителей она составляет около 30%, что делает его идеальным решением для инференса. Новый ускоритель Sohu был анонсирован и запланирован к выпуску 26 июня 2024 года, и его появление на рынке вызывает ожидание среди специалистов в области технологий и геймеров.