Китай увеличивает скорость ИИ в 100 раз
Китайские учёные из Пекинского университета разработали прогрессивную оптическую систему соединения, связывающую стандартные электронные чипы. В ходе эксперимента было доказано, что благодаря этой системе скорость вывода информации в ИИ увеличилась более чем в 100 раз по сравнению с коммерческим GPU.
При распространении ИИ-моделей приходится наращивать их мощность, как правило, за счет строительства очень крупных дата-центров и новых графических процессоров, и в итоге это бесконечная гонка за энергией и грубой силой.
Но пекинские учёные нарушили это правило и предложили совсем новый подход — передача данных между чипами по оптическому каналу и настройка системы под определённый алгоритм. В эксперименте это позволило сократить время обработки при значительно сильно меньшей производительности процессоров.
В основе системы лежат программируемые логические интегральные схемы FPGA. Их архитектура может быть изменена в соответствии с любой задачей, поэтому их часто используют в системах наведения, автономных транспортных средствах и центрах обработки данных, где требуется параллельная обработка информации.
За передачу информации отвечали два элемента:
- Кремниевый фотонный передатчик, способный передавать данные со скоростью 400 Гбит/с, который преобразует электрические сигналы в оптические и наоборот.
- Коммутационный чип формата 16 на 16, который работает как оптический маршрутизатор и способен устанавливать произвольное соединение между 16 входными и выходными портами.
В ходе эксперимента пять интегральных схем программируемой логики FPGA решали задачу шумоподавления на фотографиях. Система обрабатывала тысячу изображений размером 32768 бит каждое. На каждое изображение уходило 105,16 микросекунд.
Для сравнения, аналогичный тест на коммерческих графических процессорах, которые должны были обеспечить производительность в 16,96 терафлопс, занял 15,6 миллисекунд.
Таким образом, система FPGA с оптическими соединениями оказалась более чем в 100 раз быстрее в решении этой задачи.
В то же время, общая теоретическая производительность пяти чипов FPGA составила примерно 1,969 терафлопс, в то время как у графических процессоров для камер этот показатель составил 16,96 терафлопс. Это соотношение составляет 11,6%.
В то же время, уровень потерь сигнала в коммутационном чипе не превышал 5 дБ, что, по мнению автора, было достаточно для обеспечения высокоскоростной передачи без ошибок и использования внешней оптической компенсации.
По словам исследователей, это очень поможет в снижении энергозатратности дата-центров и сократит задержки, а также позволит экономнее использовать вычислительные мощности.
Источник: South China Morning Post
