1. Технологические гиганты и стартапы переходят на более компактные и эффективные модели искусственного интеллекта. Компактные модели обучаются на более узких наборах данных и могут стоить менее 10 миллионов долларов, используя менее 10 миллиардов параметров.
2. Компания Microsoft представила семейство небольших моделей под названием Phi, которые в 100 раз меньше бесплатной версии ChatGPT, но справляются со многими задачами почти так же эффективно. Apple планирует использовать малые модели для запуска ИИ локально на смартфонах.
3. Эксперты отмечают, что для многих задач большие модели искусственного интеллекта могут быть избыточными. Ключевым преимуществом малых моделей является возможность их тонкой настройки под конкретные задачи и наборы данных.
4. Apple объявила об интеграции ChatGPT в Siri для выполнения сложных задач, а Microsoft планирует использовать последнюю модель OpenAI в новой версии Windows. Компании Experian и Salesforce уже перешли на использование компактных моделей ИИ для чат ботов и обнаружили, что они обеспечивают такую же производительность, как и большие модели, но при меньших затратах и задержках обработки данных.
5. Переход к малым моделям происходит на фоне замедления прогресса в области больших публично доступных моделей искусственного интеллекта.Thank you for reading this post, don't forget to subscribe!
Технологические компании и стартапы стремятся к эффективности и экономии при создании моделей искусственного интеллекта. Новейшие тенденции в индустрии показывают, что переход к компактным моделям становится все более актуальным. Компактные модели, обученные на узких наборах данных и имеющие менее 10 миллиардов параметров, представляют собой эффективную альтернативу крупным моделям, сокращая затраты и повышая производительность.
Одним из ярких примеров в этой области является выпуск компанией Microsoft семейства небольших моделей искусственного интеллекта под названием Phi. Эти модели, по сравнению с бесплатной версией ChatGPT, в 100 раз меньше по размеру, но при этом успешно справляются с различными задачами. Apple также вступает в этот тренд, планируя использовать компактные модели для запуска искусственного интеллекта локально на своих смартфонах.
Эксперты отмечают, что для многих задач использование крупных моделей может быть избыточным. Ключевым преимуществом компактных моделей является возможность тонкой настройки под конкретные задачи и наборы данных. Компании Experian и Salesforce уже оценили преимущества такого подхода, перейдя на использование компактных моделей для своих чат-ботов и обнаружив, что они обеспечивают высокую производительность при сниженных затратах и задержках обработки данных.
Переход к компактным моделям происходит в условиях замедления прогресса в области крупных публично доступных моделей искусственного интеллекта. Юсуф Мехди отметил, что использование крупных моделей обходится дороже, чем ожидалось, что побудило Microsoft искать более эффективные решения. Илья Полосухин образно сравнил использование крупных моделей для простых задач с поездкой в магазин за продуктами на танке, подчеркивая излишность такого подхода. В свою очередь, Йоав Шохам отметил, что компактные модели способны выполнять задачи по обработке информации существенно дешевле и быстрее, чем их крупные аналоги.
Эра компактных моделей искусственного интеллекта открывает новые перспективы для развития технологий, делая их более доступными и эффективными.