Ett program för artificiell intelligens har utvecklat ett eget språk och ingen kan förstå det.
OpenAI är en systemutvecklare av artificiell intelligens – deras program är fantastiska exempel på superdatorer men det finns egenheter.
DALLE-E2 är OpenAI:s senaste AI-system – det kan generera realistiska eller konstnärliga bilder från användarinmatade textbeskrivningar.
DALLE-E2 representerar en milstolpe inom maskininlärning – OpenAI:s webbplats säger att programmet “lärde sig förhållandet mellan bilder och texten som används för att beskriva dem.”
En DALLE-E2-demonstration inkluderar interaktiva nyckelord för besökande användare att leka med och generera bilder – att växla mellan olika nyckelord kommer att resultera i olika bilder, stilar och ämnen.
Men systemet har ett konstigt beteende – det är att skriva sitt eget språk med slumpmässiga bokstäver, och forskarna vet inte varför.
Giannis Daras, doktor i datavetenskap. student vid University of Texas, publicerade en Twitter-tråd som beskriver DALLE-E2:s oförklarade nya språk.
Daras sa till DALLE-E2 att skapa en bild av “bönder som pratar om grönsaker” och programmet gjorde det, men böndernas tal löd “vicootes” – något okänt AI-ord.
Efter att ha blivit tillsagd att skapa en bild av “bönder som pratar om grönsaker”, läser talet vicotes, ett okänt AI-ord.Getty Images/iStockphotoDaras matade tillbaka “vicootes” i DALLE-E2-systemet och fick tillbaka bilder på grönsaker.
“Vi matar sedan orden: ‘Apoploe vesrreaitars’ och vi får fåglar.” skrev Daras på Twitter.
“Det verkar som att bönderna pratar om fåglar och bråkar med sina grönsaker!”
Håll dig uppdaterad om dagens viktigaste nyheter
Håll dig uppdaterad om det allra senaste med Evening Update.
Daras och en medförfattare har skrivit en artikel om DALLE-E2:s “dolda ordförråd”.
De erkänner att om man säger åt DALLE-E2 att generera bilder av ord – kommandot “en bild av ordet flygplan” är Daras exempel – normalt resulterar i att DALLE-E2 spottar ur sig “snurrig text”.
När den är ansluten till DALLE-E2 kommer den där skrattretande texten att resultera i bilder av flygplan – vilket säger något om hur DALLE-E2 pratar med och tänker på sig själv.
Vissa AI-forskare hävdade att DALLE-E2:s skratttext är “slumpmässigt brus”.
Förhoppningsvis kommer vi inte att finna att DALLE-E2:s andra språk var ett säkerhetsfel som behövde korrigeras efter att det är för sent.
Denna artikel publicerades ursprungligen på Solen och återgavs här med tillstånd.
