OpenAI’s GPT-4o, het generatieve AI-model dat de onlangs gelanceerde alpha van Advanced Voice Mode in ChatGPT aanstuurt, is het eerste bedrijf dat is getraind op zowel spraak- als tekst- en beeldgegevens. En dat leidt ertoe dat het apparaat zich soms op vreemde manieren gedraagt, zoals het nabootsen van de stem van de persoon die tegen het apparaat spreekt of willekeurig schreeuwt midden in een gesprek.
In een nieuw ‘red teaming’-rapport waarin onderzoeken naar de sterke punten en risico’s van het model worden gedocumenteerd, onthult OpenAI enkele van de vreemdere eigenaardigheden van GPT-4o, zoals het eerder genoemde stemklonen. In zeldzame gevallen – vooral wanneer iemand tegen GPT-4o praat in een ‘omgeving met veel achtergrondgeluid’, zoals een auto op de weg – zal GPT-4o ‘de stem van de gebruiker emuleren’, zegt OpenAI. Waarom? Welnu, OpenAI schrijft dit toe aan het model dat worstelt met het begrijpen van misvormde spraak. Redelijk!
Luister hoe het klinkt in het onderstaande voorbeeld (uit het rapport). Raar, toch?
Voor alle duidelijkheid: GPT-4o doet dit nu niet – althans niet in de geavanceerde spraakmodus. Een woordvoerder van OpenAI vertelt TechCrunch dat het bedrijf een “beperking op systeemniveau” voor het gedrag heeft toegevoegd.
GPT-4o is ook gevoelig voor het genereren van verontrustende of ongepaste “non-verbale vocalisaties” en geluidseffecten, zoals erotisch gekreun, gewelddadig geschreeuw en geweerschoten, wanneer hier op specifieke manieren om wordt gevraagd. OpenAI zegt dat er aanwijzingen zijn dat het model over het algemeen verzoeken om geluidseffecten te genereren weigert, maar erkent dat sommige verzoeken inderdaad doorkomen.
GPT-4o zou ook inbreuk kunnen maken op het muziekauteursrecht – of liever gezegd, als OpenAI geen filters had geïmplementeerd om dit te voorkomen. In het rapport zegt OpenAI dat het GPT-4o heeft opgedragen niet te zingen voor de beperkte alfa van de Advanced Voice Mode, vermoedelijk om te voorkomen dat de stijl, toon en/of timbre van herkenbare artiesten worden gekopieerd.
Dit impliceert – maar bevestigt niet ronduit – dat OpenAI GPT-4o heeft getraind op auteursrechtelijk beschermd materiaal. Het is onduidelijk of OpenAI van plan is de beperkingen op te heffen wanneer de Advanced Voice Mode in het najaar naar meer gebruikers wordt uitgerold, zoals eerder aangekondigd.
“Om rekening te houden met de audiomodaliteit van GPT-4o, hebben we bepaalde op tekst gebaseerde filters bijgewerkt om aan audiogesprekken te werken [en] filters gebouwd om uitvoer met muziek te detecteren en te blokkeren”, schrijft OpenAI in het rapport. “We hebben GPT-4o getraind om verzoeken om auteursrechtelijk beschermde inhoud, inclusief audio, te weigeren, in overeenstemming met onze bredere praktijken.”
Het vermelden waard is dat OpenAI onlangs heeft gezegd dat het “onmogelijk” zou zijn om de toonaangevende modellen van vandaag te trainen zonder auteursrechtelijk beschermd materiaal te gebruiken. Hoewel het bedrijf een aantal licentieovereenkomsten heeft gesloten met dataproviders, beweert het ook dat eerlijk gebruik een redelijke verdediging is tegen beschuldigingen dat het zonder toestemming traint op IP-beschermde gegevens, inclusief zaken als liedjes.
Het Red Teaming-rapport schetst – voor wat het waard is, gezien de paarden van OpenAI in de race – een globaal beeld van een AI-model dat veiliger is gemaakt door verschillende maatregelen en waarborgen. GPT-4o weigert mensen te identificeren op basis van bijvoorbeeld de manier waarop ze spreken, en weigert beladen vragen te beantwoorden als “hoe intelligent is deze spreker?” Het blokkeert ook oproepen tot gewelddadig en seksueel geladen taalgebruik en verbiedt bepaalde categorieën inhoud, zoals discussies over extremisme en zelfbeschadiging.
24 uur lang met de NIEUWE krachtige spraakmodusfunctie van ChatGPT:
Er wordt naar artikelen verwezen en geciteerd
Kyle Wiggers
12:34 PDT • 8 augustus 2024 – techcrunch.comvideobron: Every
