Идея студента Стэнфордского университета в 2000 году привела к появлению CUDA — технологии, на которой сегодня основана вся революция в области искусственного интеллекта. Все началось с Quake 3 в 8K.
Сонный четверг вечером в Стэнфордском университете в 2000 году. Студент Иэн Бак сидит перед, казалось бы, неразрешимой проблемой: играть в Quake 3 в реальном разрешении 8K. Не просто играть, а одновременно отображать на восьми проекторах.
Его решение колебалось между проverbial genius и безумием: он соединил 32 графические карты Nvidia Geforce в одну рендер-ферму. То, что звучит как простой эпизод из жизни амбициозного компьютерного гения, стало началом одной из самых ценных технологий XXI века. Идея Бака проложила путь для технологии Nvidia CUDA — платформы, которая сегодня составляет основу практически всех крупных систем искусственного интеллекта.
От игры к научной концепции
Для Бака эксперимент с Quake 3 стал поворотным моментом. Он понял то, что в то время почти никто не понимал: графические процессоры могут гораздо больше, чем просто рисовать треугольники — они могут стать универсальными вычислительными машинами. С этим пониманием студент-информатик глубоко погрузился в технические спецификации чипов Nvidia и начал свой докторский проект (via Xataka).
- Результат: совместно с небольшой группой исследователей и при поддержке гранта DARPA Бак разработал язык программирования с открытым исходным кодом под названием «Brook». Этот язык позволяет превращать графические карты в децентрализованные суперкомпьютеры.
- Внезапно стало возможным выполнять параллельные вычисления на графических процессорах, например, когда одна единица освещала многоугольник A, другая — многоугольник B, а третья — сохраняла данные.
За этим последовала статья под названием «Brook for GPUs: stream computing on graphics hardware» (доступна по ссылке Стэнфордском университете) привлекла внимание одного человека: основателя Nvidia Дженсена Хуанга.
Он сразу понял, что здесь таится огромный потенциал, и сразу же пригласил Бака в Nvidia.
2005 год: компания Silicon Graphics терпит крах, разгромленная Nvidia. Сегодня от американского производителя компьютеров осталась только спецификация OpenGL.
Около 1200 бывших сотрудников SGI в то время, по сути, перешли в исследовательский отдел Nvidia. Среди них был Джон Николс, пионер в области параллельной обработки, чей предыдущий проект провалился, но который теперь создавал новый проект вместе с Баксом.
- Этот проект получил название, которое поначалу вызывало больше путаницы, чем проясняло ситуацию: «Compute Unified Domain Architecture», сокращенно CUDA.
- В ноябре 2006 года NVIDIA выпустила первую версию этого бесплатного программного обеспечения, однако исключительно для своих партнеров по оборудованию.
Первоначальный энтузиазм быстро угас. В 2007 году CUDA была скачана всего 13 000 раз. Миллионы пользователей Nvidia хотели использовать свои видеокарты исключительно для игр. Программирование CUDA оказалось сложным, инвестиции казались малорентабельными. Кроме того, проект потреблял значительные ресурсы внутри компании, не принося заметных результатов.
Долгий путь к революции в области ИИ
В первые годы CUDA, безусловно, не превратилась в технологию ИИ — в то время о искусственном интеллекте практически не говорили. Вместо этого CUDA использовали исследовательские лаборатории и научные институты.
Однако сам Бак уже в 2009 году в интервью с Tom’s Hardware уже в 2009 году имел представление о том, куда может привести этот путь:
Мы увидим возможности в личных медиа, такие как классификация изображений и фотографий на основе контента — лиц, мест — операции, требующие огромной вычислительной мощности.
Остается только догадываться, насколько точно Бак предсказал развитие событий на последующие годы. По крайней мере, ему не пришлось ждать слишком долго, чтобы убедиться в своей правоте.
- В 2012 году два докторанта по имени Алекс Крижевский и Илья Суцкевер под руководством Джеффри Хинтона представили проект под названием «AlexNet».
- Это программное обеспечение могло автоматически классифицировать изображения по их содержанию — идея, которая ранее считалась вычислительно невозможной.
Главное: они обучили эту нейронную сеть на графических картах NVIDIA с программным обеспечением CUDA.
Самое позднее в этот момент два мира слились воедино. CUDA и искусственный интеллект вдруг обрели смысл. Остальное уже история: абсурдная идея студента Стэнфорда превратилась в технологию, на которой сегодня работают миллионы систем искусственного интеллекта, и которая сделала NVIDIA самой ценной технологической компанией в мире.
