Если вы когда-нибудь задавались вопросом, что происходит, когда вы помещаете графический процессор в NAS и запускаете на нем искусственный интеллект, например частный ChatGPT, то оценка хранилища дает неожиданный ответ.
В качестве основы для своего проекта Джордан Ранус использовал QNAP TS-h1290FX, 12 NVMe NAS на базе процессора AMD EPYC 7302P, 256 ГБ DRAM, возможность подключения 25GbE и множество слотов PCI. Он выбрал этот NAS, потому что он поддерживает внутренний графический процессор и способен разместить до 737 ТБ необработанного хранилища.
Добавив графический процессор Nvidia RTX A4000 к TS-h1290FX и настроив его для работы с искусственным интеллектом с помощью Virtualization Station (гипервизора для NAS), Ranous смог беспрепятственно запускать рабочие процессы искусственного интеллекта. Чат Nvidia с RTX
Пакет программного обеспечения ChatRTX от Nvidia обеспечивает взаимодействие с искусственным интеллектом, предоставляя индивидуальный подход через LLM на основе GPT с локальным уникальным набором данных. Это позволило быстро реагировать с учетом контекста, сохраняя при этом конфиденциальность и безопасность.
При оценке хранилища подробно описан процесс проверки совместимости оборудования, установки графического процессора, обновления прошивки и программного обеспечения QNAP, а также установки операционной системы на виртуальной машине перед настройкой сквозной передачи графического процессора, установкой драйверов графического процессора в виртуальной машине и включением функции сквозной передачи.
Простота настройки графического процессора для искусственного интеллекта на QNAP NAS доказывает, что он может работать как экономичное и эффективное решение для предприятий, стремящихся использовать возможности искусственного интеллекта. Как говорит Ранус: «Мы показали, что добавить достойный графический процессор к QNAP NAS относительно легко и дешево. Мы запустили A4000, и при розничной цене около 1050 долларов это неплохо, учитывая, что Virtualization Station бесплатна, а NVIDIA ChatRTX доступен бесплатно». Другие работы из Нью-Йорка Брейкинга
Подпишитесь на информационный бюллетень Ny Breaking и получайте все лучшие новости, мнения, функции и рекомендации, необходимые вашему бизнесу для успеха!
Статья добавлена ботом, с использованием машинного перевода : https://nybreaking.com/category/tech/
