Недавно мы получили представление о том, что делается с технологией AI GPU стоимостью 1 миллиард долларов, когда Илон Маск поделился коротким видеообзором Cortex, суперкомпьютера для обучения ИИ X, который в настоящее время строится на заводе Tesla в Гиге, штат Техас.
Недавно Маск объявил в своей социальной сети, что Colossus, новый учебный кластер H100 на 100 тыс. единиц, теперь введен в эксплуатацию.
Маск утверждает, что Colossus — «самая мощная в мире система обучения ИИ» и что она была построена «от начала до конца» всего за 122 дня. Это настоящий подвиг. Сообщается, что серверы для кластера xAI были поставлены Dell и Supermicro, а стоимость проекта оценивается в 3–4 миллиарда долларов.
На этих выходных команда @xAI запустила наш учебный кластер Colossus на 100 тыс. единиц H100. От начала до конца это заняло 122 дня. Colossus — самая мощная в мире система обучения ИИ. Плюс, через несколько месяцев он удвоится в размере до 200 тыс. (50 тыс. H200). Отлично… 2 сентября 2024 г. Откуда взялось название Colossus?
Tom’s Hardware отмечает: «Хотя все эти кластеры формально работают и даже обучают модели ИИ, совершенно неясно, сколько из них на самом деле сейчас в сети. Во-первых, требуется время для отладки и оптимизации настроек этих суперкластеров. Во-вторых, X необходимо убедиться, что у них достаточно мощности, и хотя компания Илона Маска использовала 14 дизельных генераторов для питания своего суперкомпьютера Memphis, их все равно было недостаточно для питания всех 100 000 графических процессоров H100».
Система Colossus в конечном итоге должна удвоить свою мощность, с планами по интеграции дополнительных 100 000 графических процессоров — 50 000 блоков H100 и 50 000 чипов следующего поколения H200 от Nvidia. Суперкластер будет в первую очередь использоваться для обучения Grok-3 от xAI, новейшей, самой передовой модели искусственного интеллекта компании. Мы пока не видели никаких упоминаний о хранилище для новой системы, но оно должно быть огромным.
Однако название нового суперкомпьютера вызвало некоторое недоумение, поскольку люди отметили, что компьютер разделяет свое название с научно-фантастическим фильмом 1970-х годов (основанным на романе 1966 года Д. Ф. Джонса) о суперкомпьютере, который становится разумным после взятия под контроль ядерного арсенала США. Неудивительно, что для человечества дела идут ужасно плохо.
И роман, и фильм исследуют актуальные темы автономности ИИ, опасности передачи управления машинам и этические последствия искусственного интеллекта. Возможно, Маск не знал об этом, когда выбирал название для своей новой системы обучения ИИ, и что оно было выбрано исключительно для того, чтобы подчеркнуть огромный размер суперкластера. С другой стороны, учитывая послужной список Маска, не было бы ничего удивительного, если бы эта ссылка была полностью преднамеренной — он точно знает, что делает.
Подпишитесь на рассылку новостей Ny Breaking и получайте ключевые новости, мнения, функции и советы, необходимые вашему бизнесу для успеха! Подробнее от Ny Breaking
Статья добавлена ботом, с использованием машинного перевода : https://nybreaking.com/category/tech/
