Kredit: James Tan You Sian
Forskare vid Oxford Universitys Department of Materials, som arbetar i samarbete med kollegor från Exeter och Munster, har utvecklat en on-chip optisk processor som kan upptäcka likheter i datauppsättningar upp till 1 000 gånger snabbare än konventionella maskininlärningsalgoritmer som körs på elektroniska processorer.
Den nya forskningen publicerad i Optica tog sin inspiration från Nobelpristagaren Ivan Pavlovs upptäckt av klassisk konditionering. I sina experiment fann Pavlov att genom att ge ytterligare en stimulans under matning, som ljudet av en klocka eller metronom, började hans hundar koppla samman de två upplevelserna och saliverade bara vid ljudet. De upprepade associationerna av två orelaterade händelser parade ihop skulle kunna producera ett inlärt svar – en villkorlig reflex.
Medförfattaren Dr. James Tan You Sian, som gjorde detta arbete som en del av sin DPhil vid Department of Materials, University of Oxford, sa: “Pavlovsk associativ inlärning betraktas som en grundläggande form av lärande som formar människors beteende. och djur – men adoption i AI-system är i stort sett ovanligt. Vår forskning om Pavlovian inlärning tillsammans med optisk parallell bearbetning visar den spännande potentialen för en mängd olika AI-uppgifter.”
De neurala nätverk som används i de flesta AI-system kräver ofta ett stort antal dataexempel under en inlärningsprocess – att träna en modell för att tillförlitligt känna igen en katt kan använda upp till 10 000 bilder av katt/icke-katt – till en beräknings- och bearbetningskostnad.
Istället för att förlita sig på backpropagation som gynnas av neurala nätverk för att “finjustera” resultat, använder Associative Monadic Learning Element (AMLE) ett minnesmaterial som lär sig mönster för att associera ihop liknande egenskaper i datauppsättningar – som efterliknar den villkorliga reflexen som Pavlov observerade i fallet av en “match”.
Kredit: Zengguang Cheng
AMLE-ingångarna är ihopparade med rätt utgångar för att övervaka inlärningsprocessen, och minnesmaterialet kan återställas med hjälp av ljussignaler. Vid testning kunde AMLE korrekt identifiera katt/icke-kattbilder efter att ha tränats med bara fem par bilder.
De avsevärda prestandamöjligheterna hos det nya optiska chippet jämfört med ett konventionellt elektroniskt chip beror på två viktiga skillnader i design:
- En unik nätverksarkitektur som innehåller associativt lärande som en byggsten snarare än att använda neuroner och ett neuralt nätverk
- Användningen av “våglängdsmultiplexering” för att skicka flera optiska signaler på olika våglängder på en enda kanal för att öka beräkningshastigheten
Chiphårdvaran använder ljus för att skicka och hämta data för att maximera informationstätheten – flera signaler på olika våglängder skickas samtidigt för parallell bearbetning vilket ökar detekteringshastigheten för igenkänningsuppgifter. Varje våglängd ökar beräkningshastigheten.
Professor Wolfram Pernice, medförfattare från Münster University, förklarade, “Enheten fångar naturligt likheter i datauppsättningar samtidigt som den gör det parallellt med hjälp av ljus för att öka den totala beräkningshastigheten – vilket vida kan överstiga kapaciteten hos konventionella elektroniska chips.”
En associativ inlärningsmetod skulle kunna komplettera neurala nätverk snarare än att ersätta dem, förtydligade den första författaren professor Zengguang Cheng, nu vid Fudan University.
“Det är mer effektivt för problem som inte behöver substantiell analys av mycket komplexa funktioner i datamängderna”, säger professor Cheng. “Många lärandeuppgifter är volymbaserade och har inte den komplexitetsnivån – i dessa fall kan associativ inlärning slutföra uppgifterna snabbare och till en lägre beräkningskostnad.”
“Det blir allt tydligare att AI kommer att stå i centrum för många innovationer vi kommer att bevittna i den kommande fasen av mänsklighetens historia. Detta arbete banar väg för att förverkliga snabba optiska processorer som fångar dataassociationer för speciella typer av AI-beräkningar, även om det fortfarande finns många spännande utmaningar framför oss, säger professor Harish Bhaskaran, som ledde studien.
Ett nytt memristorbaserat neuralt nätverk inspirerat av begreppet associativt minne
Mer information:
James YS Tan et al, Monadic Pavlovian associativ inlärning i ett fotoniskt nätverk utan återförökning, Optica (2022). DOI: 10.1364/OPTICA.455864 Tillhandahålls av University of Oxford
Citat:Seing the light: Forskare utvecklar nytt AI-system som använder ljus för att lära associativt (2022, 26 juli)hämtad 26 juli 2022 från https://techxplore.com/news/2022-07-ai-associatively.html
Detta dokument är föremål för upphovsrätt. Bortsett från all rättvis handel i syfte att privata studier eller forskning, får ingen del reproduceras utan skriftligt tillstånd. Innehållet tillhandahålls endast i informationssyfte.
Håll kontakten med oss på sociala medieplattformar för omedelbar uppdatering klicka här för att gå med i vår Twitter och Facebook
