Nvidia объединилась с ServiceNow и Hugging Face, чтобы представить новое семейство моделей большого языка (LLM) с открытым доступом для генерации кода.
Платформа StarCoder2 была разработана сообществом BigCode с учетом производительности, прозрачности и экономической эффективности.
Обширный охват StarCoder2 основан на обучении 619 языкам программирования. Генератор кода искусственного интеллекта доступен в трех вариантах: 3 миллиарда, 7 миллиардов и 15 миллиардов параметров. StarCoder2 делает генерацию кода доступной каждому
Согласно объявлению, меньшие варианты созданы для обеспечения высокой производительности при одновременном контроле вычислительных затрат. Самая маленькая модель построена вместе с ServiceNow и обещает соответствовать производительности оригинальной опции StarCoder с 15 миллиардами параметров, в то время как опция средней спецификации имеет поддержку Hugging Face.
Опция StarCoder2 с 15 миллиардами параметров обучена на ускоренной инфраструктуре Nvidia.
Значительные улучшения означают, что, хотя более высокая производительность может быть достигнута с помощью ускоренной опции Nvidia, даже самый базовый вариант является значительным шагом вперед по сравнению с предыдущими поколениями и требует менее развитой инфраструктуры.
Джонатан Коэн, вице-президент по прикладным исследованиям Nvidia. «Сотрудничество Nvidia с ServiceNow и Hugging Face представляет безопасные, ответственно разработанные модели и поддерживает более широкий доступ к ответственному генеративному искусственному интеллекту, который, как мы надеемся, принесет пользу мировому сообществу».
Кроме того, StarCoder2 использует новый набор данных кода под названием The Stack v2, который включает в себя новые методы обучения для понимания языков программирования с низким уровнем ресурсов, математики и обсуждений исходного кода программ.
Помимо повышения производительности и эффективности, организации подчеркивают, что StarCoder2 придерживается этических практик искусственного интеллекта, таких как использование ответственно полученных данных, лицензированных из цифровых ресурсов Software Heritage. Разработчики также могут отказаться от использования их данных для обучения. Другие работы из Нью-Йорка Брейкинга
Статья добавлена ботом, с использованием машинного перевода : https://nybreaking.com/category/tech/
