Google heeft de functie van zijn AI-tool Gemini tijdelijk uitgeschakeld om afbeeldingen van mensen te genereren, omdat deze historisch onjuiste beelden produceerde. De techgigant reageerde op klachten van gebruikers die Gemini hadden ingezet om afbeeldingen te genereren met historische figuren zoals Duitse soldaten uit het jaar 1943, Vikingen of stichtende leden van de Verenigde Staten.
Op die gegenereerde afbeeldingen waren mensen met verschillende etnische achtergronden te zien, terwijl de historische figuren veelal blanke personen waren. Google stelt dat Gemini een breed scala aan mensen kan genereren, maar dat de AI-tool er hier een zooitje van maakt. Het bedrijf werkt aan een oplossing en zegt dat de functie binnenkort opnieuw beschikbaar zal zijn.
Deze anomalie komt voort uit Google`s nobele poging om de algoritmes meer gelijkwaardig te maken. Te veel gelijkwaardigheid. Eerder waren er nieuws rapporten waar er juist bleek dat een bias was naar blanke mensen. Afbeeldingen generator Midjourney kwam eerder onder vuur te liggen vanwege teveel stereotype afbeeldingen. En het debacle van de toeslagenaffaire is eigenlijk ook te weiten aan een te weinig inclusieve bias van de algoritmes.
Het goede nieuws is dus dat het Google gelukt is om die bias tegen te gaan. Het resultaat is alleen dat er opeens historische figuren zijn die een andere huidskleur krijgen dan wij in gedachten hadden. In films inmiddels geaccepteerd is dat mensen met niet witte huidskleuren in een “witte” historische setting kunnen spelen. Maar een zwarte Abraham Lincoln gaat blijkbaar nog iets te ver.
Begrijpelijk dat concurrenten dit willen gebruiken om Google zwart te maken en dat het in de media het een en ander doet opleven. Maar in weze is dit een gezonde uitrol van innovatieve algoritmes die pas in de buitenwereld laten zien waar ze toe in staat zijn en daarop gecorrigeerd worden.
NB. In Nederland en de Europese Unie is het maken van afbeeldingen überhaupt nog niet beschikbaar en heeft deze update dus geen effect