In eerste instantie was John Pasmore enthousiast over ChatGPT.
De oprichter van de serie was in ieder geval sinds 2008 actief in de kunstmatige intelligentie. Hij herinnerde zich de tijd waarin experts verklaarden dat het tientallen jaren zou duren voordat de wereld zoiets als een ChatGPT zou zien. Snel vooruit: die dag is nu gekomen.
Maar er is een addertje onder het gras.
ChatGPT, een van ‘s werelds krachtigste hulpmiddelen voor kunstmatige intelligentie, worstelt met culturele nuance. Dat is behoorlijk vervelend voor een zwarte persoon als Pasmore. In feite heeft dit toezicht de woede opgeroepen van veel zwarte mensen die zichzelf al niet goed vertegenwoordigd zagen in de algoritmen die werden aangeprezen om ooit de wereld te redden. De huidige ChatGPT biedt antwoorden die te algemeen zijn voor specifieke vragen die zich richten op bepaalde gemeenschappen, omdat de training eurocentrisch en westers van aard lijkt. Dit is niet uniek: de meeste AI-modellen zijn niet gebouwd met gekleurde mensen in gedachten. Maar veel zwarte oprichters zijn onvermurwbaar om niet achter te blijven.
Het afgelopen jaar zijn er talloze chatbots en ChatGPT-versies van zwarte eigenaren opgedoken om specifiek tegemoet te komen aan zwarte en bruine gemeenschappen, terwijl zwarte oprichters, zoals Pasmore, proberen te profiteren van de culturele slip van OpenAI.
“Als je het model in het algemeen vraagt wie enkele van de belangrijkste kunstenaars in onze cultuur zijn, krijg je Leonardo da Vinci en Michelangelo”, zegt Pasmore over ChatGPT. “Het gaat niets zeggen over India of China, Afrika of zelfs Afro-Amerikanen, omdat het een vooroordeel heeft dat gericht is op het Europese traject van de geschiedenis.”
Dus lanceerde Pasmore Latimer.AI, een taalmodel om antwoorden te geven die zijn afgestemd op de ervaringen van zwarte en bruine mensen. Erin Reddick begon ChatBlackGPT, een chatbot die zich ook richtte op zwarte en bruine gemeenschappen. Wereldwijd is er het in Canada gevestigde Bougie, een alternatief voor ChatGPT voor zwarte en bruine studenten. Afrika ziet ook enorme innovatie op dit gebied, waarbij taalmodellen opduiken om tegemoet te komen aan de meer dan 2.000 talen en dialecten die op het continent worden gesproken en die westerse AI-modellen nog steeds over het hoofd zien.
“Wij zijn de bewaarders van onze eigen verhalen en ervaringen”, vertelde Tamar Huggins, de oprichter van Spark Plug, aan JS. “We moeten systemen en infrastructuur creëren die we bezitten en controleren, om ervoor te zorgen dat onze gegevens van ons blijven.”
Gepersonaliseerde AI is er
Gegeneraliseerde AI-modellen kunnen de Afro-Amerikaanse ervaring niet gemakkelijk vastleggen, omdat veel aspecten van die cultuur niet online zijn. De huidige algoritmen struinen het internet af op zoek naar bronnen, maar veel tradities en dialecten binnen de Afro-Amerikaanse cultuur worden mondeling of uit de eerste hand doorgegeven, waardoor er een kloof ontstaat in wat een AI-model over de gemeenschap zal begrijpen versus de nuance in wat er feitelijk gebeurt.
Dit is een van de redenen waarom Pasmore bronnen als Amsterdam News, een van de oudste zwarte kranten in de VS, probeerde te gebruiken bij het bouwen van Latimer.AI, waarbij de nadruk lag op nauwkeurigheid in plaats van op training op basis van door gebruikers gegenereerde gegevens die van internet werden geplukt. Terwijl hij dit deed, begon hij verschillen te zien tussen zijn model en dat van ChatGPT.
Hij herinnerde zich dat mensen ChatGPT ooit vroegen naar de Underground Railroad, de doorgang die zwarte Amerikanen tot slaaf maakte om naar de noordelijke staten te reizen om aan de slavernij te ontsnappen. Het model van ChatGPT vermeldt weggelopen slaven, terwijl Latimer.AI de bewoording heeft aangepast en verwijst naar de ‘tot slaaf gemaakte’ of ‘vrijheidzoekende mensen’, wat meer in overeenstemming is met wat er meer sociaal afgestemd is geworden bij het bespreken van voorheen tot slaaf gemaakte mensen.
“Je hebt enkele subtiele verschillen in de taal die het model gebruikt vanwege de trainingsgegevens, en het model zelf denkt alleen maar aan zwarte en bruine mensen,” zei Pasmore.
Ondertussen bevindt ChatBlackGPT van Erin Reddick zich nog steeds in de bètamodus met plannen voor lancering op Juneteenth. Haar product werkt zoals het klinkt: een chatbot waar je vragen kunt stellen en antwoorden op maat kunt krijgen over de zwarte cultuur. “De kern van wat we doen is echt gemeenschapsgedreven”, zei ze.
Ze is bezig met het uitbouwen van de tool, gebruikers vragen hoe ze willen dat het eruit ziet en hoe ze willen dat het zich gedraagt. Ze werkt ook samen met onderwijsinstellingen zoals historisch zwarte hogescholen en universiteiten (HBCU’s) om met studenten samen te werken en hen te laten helpen haar algoritme te trainen. Ze zei dat ze “een goed afgeronde leermogelijkheid wil creëren voor zwarte en bruine mensen, zodat ze een veilige ruimte hebben om AI te verkennen.”
“Het algoritme geeft prioriteit aan zwarte informatiebronnen, zodat het kan spreken met een hoeveelheid kennis die directer herkenbaar is dan je gemiddelde ervaring”, vertelde ze aan JS, eraan toevoegend dat, net als het product van Pasmore, technisch gezien iedereen het kan gebruiken.
Tamar Huggins heeft Spark Plug gebouwd om ook een meer op maat gemaakte ervaring te bieden aan zwarte en bruine gemeenschappen. Haar platform vertaalt educatief materiaal naar African American Vernacular English (AAVE), het etnolect dat geassocieerd wordt met zwarte Amerikaanse gemeenschappen. Dat dialect wordt traditioneel mondeling en uit de eerste hand doorgegeven in plaats van bestudeerd en opgeschreven zoals standaard Engels, wat betekent dat de nauwkeurigheid van een AI-model (of persoon) waar het van leert gewoon internetten zal wankelen qua precisie. Het nauwkeurig vastleggen van AAVE is belangrijk, niet alleen zodat de chatbot ermee kan reageren, maar ook zodat leerlingen gemakkelijker aanwijzingen kunnen schrijven waardoor de AI de resultaten retourneert die ze nodig hebben.
“Door inhoud te creëren die resoneert met zwarte studenten, zorgen we ervoor dat ze zichzelf zien in het onderwijs, wat cruciaal is voor een hoge betrokkenheid en academisch succes”, aldus Huggins. “Als Big Tech de kans krijgt, zal het vrijwel altijd winst boven mensen stellen. Daarom creëerden we onze eigen baan binnen de AI-ruimte.”
Huggins trainde haar algoritme op de geschriften van zwarte auteurs uit de Harlem Renaissance, zwarte auteurs in het onderwijs en zelfs de woordenstroom van haar tienerdochter om de essentie van AAVE vast te leggen. Huggins werkt ook samen met docenten, taalkundigen en culturele experts om de resultaten van Spark Plug te beoordelen en te valideren. Haar product is ook niet bovenop ChatGPT gebouwd. Het is een eigen model, wat betekent dat gebruikers controle hebben over hun gegevens.
Pasmore heeft ook plannen om een apart basismodel te bouwen voor zijn Latimer.AI. Op dit moment werkt hij eraan om zijn bedrijf uit te breiden naar scholen, vooral HBCU’s, omdat steeds meer studenten elke dag naar ChatGPT kijken om hun werk te voltooien.
“Dit is een betere AI-metgezel voor veel van het werk dat zwarte en bruine kinderen moeten doen”, zei hij.
Het verenigen van de diaspora
Afrika ziet zichzelf over het hoofd gezien in de huidige AI-beweging. Zo komt slechts 0,77% van het totale aantal AI-tijdschriften ter wereld uit Afrika bezuiden de Sahara, vergeleken met Oost-Azië en Noord-Amerika met respectievelijk 47,1% en 11,6%, volgens een onderzoek uit 2023. Indexrapport over kunstmatige intelligentie. Wat de bevolking betreft, vertegenwoordigt Afrika, vergeleken met Noord-Amerika, ongeveer 17% van de wereldbevolking, vergeleken met slechts 7% van Noord-Amerika. Wanneer het tijd is om informatie en experts over AI te verzamelen, is de kans dat onderzoek uit landen ten zuiden van de Sahara wordt gebruikt vrij klein, wat van invloed zou kunnen zijn op de ontwikkeling van mondiale AI-instrumenten.
Hoewel Afrika veel ontwikkeling ziet in het creëren van meer inclusieve taalmodellen die de zwarte diaspora beter kunnen dienen, kunnen de huidige AI-modellen, van ChatGPT tot Gemini, op dit moment de meer dan 2.000 talen die in heel Afrika worden gesproken niet volledig ondersteunen.
Yinka Iyinolakan gemaakt CDIAL.AI dit behandelen. CDIAL.AI is een chatbot die bijna alle Afrikaanse talen en dialecten kan spreken en begrijpen, met een bijzondere focus op spraakpatronen in plaats van op tekst.
Iyinolakan herhaalde tegenover JS hetzelfde sentiment als veel zwarte Amerikanen: dat fundamentele AI-modellen voornamelijk op internetgegevens en uit de meest gesproken talen worden geschraapt. Net als de Afrikaans-Amerikaanse nageslachtcultuur ontbreken veel Afrikaanse talen en tradities op het internet, omdat het een cultuur is die historisch gezien mondeling wordt gecommuniceerd in plaats van in schriftelijke vorm. Dit betekent dat AI-modellen niet genoeg informatie over Afrikaanse culturen hebben om zichzelf te trainen, waardoor er een kenniskloof ontstaat.
Voor CDIAL.AI schakelde Iyinolakan meer dan 1.200 moedertaalsprekers en taalkundigen uit heel Afrika in om kennis en inzichten te verzamelen en zo te bouwen aan wat hij noemt “het eerste meertalige stem-eerste grote taalmodel ter wereld.” Het bedrijf is van plan om in de komende twaalf maanden uit te breiden met nog meer talen en een model te bouwen dat tekst, stemmen en afbeeldingen ondersteunt.
Hij is hier niet alleen. Google heeft het in Kenia gevestigde Jacaranda Health onlangs een subsidie van 1,4 miljoen dollar gegeven om zijn machine learning-diensten uit te bouwen, zodat het in meer Afrikaanse talen kan werken, en Intron Health heeft onlangs enkele miljoenen dollars opgehaald om zijn klinische spraakherkenning op te schalen voor de meer dan 200 accenten die in heel Afrika worden gesproken. .
“Silicon Valley wil geloven dat dit het alles en het einde is voor kunstmatige intelligentie”, zei Iyinolakan. “Maar om kunstmatige intelligentie te ‘krijgen’, wat alle bedrijven als hun poolster hebben, moeten ze een derde van de kennis in de wereld erbij betrekken.”
Vooruitgang boeken
Het inzetten van AI-chatbots is niet de enige innovatie die de Black-oprichters proberen aan te pakken.
Steve Jones en DeSean Brown startten het bedrijf pokstock om stockfoto’s van gekleurde mensen te maken, aangezien er al tientallen jaren een tekort is aan minderheden die vertegenwoordigd zijn in stockfoto’s. Dit is een van de redenen waarom modellen tegenwoordig voornamelijk afbeeldingen van blanke mensen uitspugen wanneer gebruikers hen vragen afbeeldingen te genereren van allerlei zaken, van artsen tot popzangers.
“Alle platforms en tools moeten worden getraind op basis van volledige, raciaal inclusieve en cultureel nauwkeurige gegevens, anders zullen we dat doen [perpetuate] de vooroordeelproblemen waarmee onze grotere samenleving momenteel wordt geconfronteerd”, vertelde Jones aan JS. Om dit aan te pakken heeft Pocstock de afgelopen vijf jaar diversiteitsgegevens verzameld en zijn eigen visuele tagging-systeem gecreëerd dat bijdraagt aan een database die bedrijven gebruiken om hun AI-modellen te trainen, zodat het meer inclusieve beeldvorming kan produceren.
Er zijn echter enkele verbeteringen gaande. Jones zei dat hij heeft gemerkt dat grotere beeldverwerkingsbedrijven die hun bronnen aan AI-bedrijven leveren, meer vooruitgang boeken bij het vergroten van de diversiteit van hun inhoud. Pasmore ziet ook een mooiere toekomst in het verschiet en zegt dat gepersonaliseerde AI sowieso de toekomst is en dat hoe meer AI-modellen met hun gebruikers communiceren, des te beter het de wensen en behoeften van een specifieke persoon zal begrijpen, “wat, denk ik, veel vooroordelen elimineert. .”
Er zou in de toekomst zelfs ruimte kunnen zijn voor meer cultuurspecifieke AI-modellen, vooral omdat er steeds meer alternatieven in zwarte handen opduiken. De wereld is immers enorm groot en genuanceerder; het heeft geen zin om te proberen haar in één zwarte doos te stoppen.
“Mijn hoop is dat meer grondleggers van kleur betrokken raken bij de ontwikkeling van hun eigen AI-platforms of het creëren van nieuwe AI-gerelateerde banen, zo vroeg mogelijk in deze volgende economische bloei”, aldus Jones. “AI gaat biljonairs creëren, en ik zou graag zien dat gekleurde mensen de positie innemen als producenten en niet alleen als consumenten.”
Dit artikel is bijgewerkt om dat weer te geven Spark Plug gebruikt zijn eigen fundamentele modellen en beschrijving rond Latimer.AI. Het berichtte ook dat DeSean Brown hielp bij het medeoprichten van Pocstock.
