Глубокое обучение с помощью света: Компоненты модели машинного обучения закодированы в световых волнах

Попросите устройство «умного дома» узнать прогноз погоды, и на ответ уйдет несколько секунд. Одна из причин такой задержки заключается в том, что у подключенных устройств недостаточно памяти или мощности для хранения и запуска огромных моделей машинного обучения, необходимых устройству для понимания того, о чем его спрашивает пользователь. Модель хранится в центре обработки данных, который может находиться за сотни километров, где ответ вычисляется и отправляется на устройство.

Исследователи Массачусетского технологического института создали новый метод вычислений непосредственно на этих устройствах, который значительно сокращает эту задержку. Их метод позволяет перенести требующие большого объема памяти этапы запуска модели машинного обучения на центральный сервер, где компоненты модели кодируются в световые волны.

Эти волны передаются на подключенное устройство с помощью волоконной оптики, что позволяет молниеносно передавать тонны данных по сети. Затем в приемнике используется простое оптическое устройство, которое быстро выполняет вычисления, используя части модели, переносимые этими световыми волнами.

Эта техника позволяет повысить энергоэффективность более чем в сто раз по сравнению с другими методами. Она также может повысить безопасность, поскольку данные пользователя не нужно передавать в центральное место для вычислений.

Этот метод может позволить самоуправляемому автомобилю принимать решения в режиме реального времени, потребляя при этом лишь малую долю энергии, которая в настоящее время требуется от энергоемких компьютеров. Он также может позволить пользователю без задержек разговаривать со своим умным домашним устройством, использоваться для обработки видео в реальном времени через сотовые сети или даже обеспечить высокоскоростную классификацию изображений на космическом корабле за миллионы километров от Земли.

«Каждый раз, когда вы хотите запустить нейронную сеть, вы должны запустить программу, а скорость выполнения программы зависит от того, насколько быстро вы можете передать программу из памяти. Наша труба огромна — это соответствует отправке полного полнометражного фильма через Интернет каждую миллисекунду или около того. Именно с такой скоростью данные поступают в нашу систему. И она может вычислять так же быстро», — говорит старший автор статьи Дирк Энглунд, доцент кафедры электротехники и вычислительной техники (EECS) и член Исследовательской лаборатории электроники Массачусетского технологического института.

Вместе с Энглундом над статьей работали ведущий автор и аспирант EECS Александр Слуддс, аспирант EECS Саумил Бандиопадхьяй, научный сотрудник Райан Хамерли, а также другие сотрудники Массачусетского технологического института, Лаборатории Линкольна Массачусетского технологического института и корпорации Nokia. Результаты исследования будут опубликованы в журнале Science.

Облегчение нагрузки

Нейронные сети — это модели машинного обучения, которые используют слои связанных узлов, или нейронов, для распознавания закономерностей в массивах данных и выполнения задач, таких как классификация изображений или распознавание речи. Но эти модели могут содержать миллиарды весовых параметров — числовых значений, которые преобразуют входные данные в процессе их обработки. Эти весовые параметры должны храниться в памяти. В то же время процесс преобразования данных включает в себя миллиарды алгебраических вычислений, для выполнения которых требуется много энергии.

Процесс извлечения данных (в данном случае весов нейронной сети) из памяти и их перемещения к частям компьютера, которые выполняют фактические вычисления, является одним из самых больших факторов, ограничивающих скорость и энергоэффективность, говорит Слуддс.

Поэтому мы подумали: «Почему бы нам не взять на себя всю эту тяжелую работу — процесс извлечения миллиардов весов из памяти — и не переместить ее подальше от граничного устройства и не поместить его туда, где у нас есть широкий доступ к энергии и памяти, что дает нам возможность быстро извлечь эти веса?» — говорит он.

Разработанная ими архитектура нейронной сети Netcast предполагает хранение весовых коэффициентов на центральном сервере, который подключен к новому аппаратному обеспечению, называемому интеллектуальным приемопередатчиком. Этот интеллектуальный приемопередатчик, чип размером с большой палец, который может принимать и передавать данные, использует технологию, известную как кремниевая фотоника, для получения триллионов единиц из памяти каждую секунду.

Он получает данные о весах в виде электрических сигналов и переводит их в световые волны. Поскольку данные о весе закодированы в виде битов (1 и 0), приемопередатчик преобразует их путем переключения лазеров; лазер включается для 1 и выключается для 0. Он объединяет эти световые волны и затем периодически передает их по оптоволоконной сети, так что клиентскому устройству не нужно запрашивать сервер для их получения.

«Оптика — это здорово, потому что существует множество способов переноса данных в оптике. Например, вы можете поместить данные в различные цвета света, и это обеспечивает гораздо более высокую пропускную способность данных и большую пропускную способность, чем при использовании электроники», — объясняет Бандиопадхьяй.

Триллионы в секунду

Когда световые волны поступают на клиентское устройство, простой оптический компонент, известный как широкополосный модулятор «Маха-Цендера», использует их для выполнения сверхбыстрых аналоговых вычислений. Это включает в себя кодирование входных данных с устройства, таких как информация с датчиков, на весах. Затем он посылает каждую отдельную длину волны на приемник, который обнаруживает свет и измеряет результат вычислений.

Исследователи придумали способ использовать этот модулятор для выполнения триллионов умножений в секунду, что значительно увеличивает скорость вычислений на устройстве, потребляя при этом ничтожно малое количество энергии.

«Чтобы сделать что-то быстрее, нужно сделать это более энергоэффективным. Но здесь есть компромисс. Мы создали систему, которая может работать с мощностью около милливатта, но при этом выполнять триллионы умножений в секунду. С точки зрения скорости и энергоэффективности это выигрыш на порядки», — говорит Слуддс.

Они протестировали эту архитектуру, отправив грузы по 86-километровому оптоволокну, соединяющему их лабораторию с лабораторией Линкольна Массачусетского технологического института. Netcast позволил проводить машинное обучение с высокой точностью — 98,7% для классификации изображений и 98,8% для распознавания цифр — на высокой скорости.

«Нам пришлось провести некоторую калибровку, но я был удивлен тем, как мало нам пришлось сделать для достижения такой высокой точности из коробки. Мы смогли добиться коммерчески значимой точности», — добавляет Хамерли.

В дальнейшем исследователи хотят продолжить работу над чипом интеллектуального приемопередатчика, чтобы добиться еще более высокой производительности. Они также хотят миниатюризировать приемник, который в настоящее время имеет размер обувной коробки, до размера одного чипа, чтобы он мог помещаться в смарт-устройство, такое как мобильный телефон.

Коллектив сайта

(Пока оценок нет)

Загрузка...