Един чип, който да управлява всички тях: Той първоначално управлява всички видове AI софтуер

Skynet lite? Моторът, управляван от Тиянжич, дебне един от създателите му.Увеличи / Skynet lite? Управляваният от Tianjic мотор стъпва едно от нейните създатели.Jing Pei et al.

Склонни сме да мислим за ИИ като за монолитна цялост, но тя има всъщност се развива по множество клонове. Един от основните клоните включва извършване на традиционни изчисления, но подхранване резултатите в друг слой, който приема вход от множество изчисления и ги претегля, преди да извърши изчисленията си и препращане на тези на. Друг клон включва имитиране на поведението на традиционните неврони: много малки единици, комуникиращи при изблици на дейност, наречена шипове, и следене на историята на миналото дейност.

Всеки от тях от своя страна има различни клонове на базата на структура на неговите слоеве и комуникационни мрежи, видове извършени изчисления и т.н. Вместо да може да действа в начин, който бихме разпознали като интелигентен, много от тях са много добър в специализирани проблеми, като разпознаване на модели или игра покер. И процесори, които са предназначени да ускорят производителността от софтуера обикновено може да подобри само подмножество от тях.

Това последно разделение може да е приключило с развитието на Тианджич от голям екип изследователи, основно базирани в Китай. Tianjic е проектиран така, че отделните му обработващи звена да могат преминете от шипови комуникации обратно към двоични и изпълнете a голям диапазон от изчисления, в почти всички случаи по-бързи и повече по-ефективно, отколкото GPU може. За да демонстрирате способностите на чипа, изследователите хвърлиха едновременно велосипед, който управляваше три различни AI алгоритми на един чип едновременно.

Разделени на две

Въпреки че има много видове AI софтуер, ключовото разделение идентифицирано от изследователите е между онова, което може да се нарече многопластово изчисления и шипови комуникации. Първият (който включва неща като конволюционни невронни мрежи и дълбоко обучение алгоритми) използват слоевете изчислителни единици, които захранват резултати от техните изчисления в следващия слой, използвайки стандарт двоични данни. Всеки от тези единици трябва да следи кои други единици, с които комуникира и с колко тегло да се даде на всяко от него входове.

От другата страна на разделението са подходите, вдъхновени повече директно по биология. Те комуникират в аналогови “шипове” на дейност, а не данни. Отделните звена трябва да следят не само сегашното им състояние, но и тяхната минала история. Това е защото вероятността им да изпратят шип зависи от това колко често в миналото са получавали шипове. Те също са подредени в големи размери мрежи, но не е задължително да имат чиста слоеста структура или извършват същия вид подробни изчисления в рамките на който и да е мерна единица.

И двата подхода са се възползвали от посветен хардуер, който е най-малко толкова добър, колкото прилагането на софтуер за графични процесори и много по-енергийно ефективен. (Един пример за това е TrueNorth процесор на IBM.) Но огромната разлика в комуникациите и изчисленията между класовете са означавали това процесор е добър само за единия или другия тип.

Това се промени от екипа на Тиянжич с това, което вика архитектурата FCore FCore е проектиран така, че двете да са различни класовете на AI могат да бъдат представени от общ основен елемент изчисли архитектура или лесно се пренастрои в движение, за да се справи едното или другото.

За да даде възможност за комуникация между своите изчислителни единици, FCore използва родния език на традиционните невронни мрежи: двоичен. Но FCore е в състояние да извежда шипове в двоичен формат, което му позволява комуникират по отношение на алгоритъм, базиран на неврони, може да разбере. Локалната памет на всеки процесор може да се използва или за проследяване на историята на шипове или като буфер за вход и изход данни. Част от хардуера за изчисление, необходим за невронни мрежи се изключва и се заобикаля, когато е в режим на изкуствен неврон.

В чипа

С тези и няколко допълнителни функции, изпълнени всяка отделна изчислителна единица в FCore може да бъде включена между два режима, изпълняващи или един вид изчисление и комуникация колкото е необходимо. По-критично е, че една единица може да бъде настроена в някакъв вид хибриден режим. Това означава да приемате принос от един тип AI алгоритъм но форматиране на неговия изход, така че да бъде разбрано от друго – четене на шипове и извеждане на данни или обратното. Че също така означава, че всяко устройство на чипа може да действа като преводач между двама видове алгоритми, позволяващи им да комуникират помежду си когато те се изпълняват на един и същ чип.

Архитектурата на FCore също е проектирана да мащабира. Картата на връзките между неговите изчислителни единици се държат в малко памет това е отделно от самите изчислителни единици и е направено достатъчно голям, за да може външните връзки да бъдат направени външно индивидуален чип. По този начин потенциално може да бъде единична невронна мрежа разпространява се в множество ядра в процесор или дори в множество процесори.

Всъщност чипът Tianjic е съставен от множество FCores (156 от тях) подредени в 2D мрежа. Общо има около 40 000 отделни изчислителни единици на чипа, което предполага индивид FCore има 256 от тях. Той е произведен по 28 нанометров процес, което е повече от двойно авангарден процес, използван от десктопа и мобилни производители на чипове. Въпреки това, той може да се измести над 600GB / секунда вътрешно и изпълнявайте почти 1,3 Tera-ops в секунда, когато работи в 300 MHz.

Въпреки ниската скорост на часовника, Тиянжич постави някои впечатляващи числа, когато се изпълняват срещу същите алгоритми, внедрени на NVIDIA Titan-Xp. Производителността варира от 1,6 пъти до 100 пъти, в зависимост от алгоритъма. И когато беше разгледано използването на енергия, представянето на Ват беше почти комично и варираше от 12x всички пътят до над 10 000x. Други специализирани AI процесори са имали висока производителност на ват, но те не са успели да стартират всички различните видове алгоритми, демонстрирани тук.

Като каране на … ами, знаеш ли

Само по себе си това би било интересна книга. Но на изследователски екип надмина, като показа, че способностите на Тиянжич могат да се използва дори в експерименталната му форма. „За да демонстрирам полезност на изграждането на подобна на мозъка кръстосана парадигма система, ” изследователите пишат, “ние проектирахме безпилотен велосипеден експеримент от разполагане на множество специализирани мрежи паралелно в рамките на една Tianjic чип. ”

Моторът направи откриване на обекти чрез светещ неврон мрежа и непрекъсната атракторна невронна мрежа, осигуряваща цел проследяване, за да може велосипедът да следва изследовател наоколо. Междувременно шипкова невронна мрежа позволи на мотора да следва гласови команди. Нещо, наречено многослоен персептрон, проследен баланса на мотора. И всички тези входове бяха координирани от a невронна машина на базата на шипкова невронна мрежа.

Някъде на онзи велосипед е чип на Tianjic.

И работи. Докато моторът не се самоуправляваше в смисъл че е готов да вземе някой през магистрала на майор град, със сигурност беше достатъчно добър, за да бъдем верни на изследователя спътник по време на разходка около тестова писта, която включваше препятствия.

Като цяло това е впечатляващо малко работа. Или процесора сам или автоматизираният велосипед би направил твърда хартия върху него собствен. И идеята да се сдобие с един чип, за да е домакин на два коренно различни софтуерни архитектури бяха смели.

Но има едно внимание, което си струва да се отбележи, в това изследователите позиционират това като път към AI с общо разузнаване. в по много начини, Тиянжич наистина прилича на мозък: мозъкът използва a единична архитектура (неврона), за да бъде домакин на множество различни процеси, които общо взето осмислят света и планират действия, които отговарят на него. До известна степен изследователите са прави това е да можеш да стартираш и интегрираш няколко алгоритми наведнъж път към нещо подобно.

Но това все още не е непременно път към генерала интелигентност. В нашия мозък, специализирани региони – алгоритъмът еквивалентен – може да изпълнява колекция от слабо дефинирани и само неясно свързани дейности. И една-единствена задача (като да решите къде да насочим вниманието си) взема безброй входни данни, които варират от нашите нова история на нашето емоционално състояние до това, което държим временна памет към пристрастия, изградени през милиони години на еволюция. Така че просто възможността да стартирате множество алгоритми все още е a далеч от всичко, което бихме разпознали като интелигентност.

Природа, 2019. DOI: 10.1038 / s41586-019-1424-8 (За Дойс).

Like this post? Please share to your friends:
Leave a Reply

;-) :| :x :twisted: :smile: :shock: :sad: :roll: :razz: :oops: :o :mrgreen: :lol: :idea: :grin: :evil: :cry: :cool: :arrow: :???: :?: :!: