Kære læser

Utak er verdens løn

Martin Sylvest/Ritzau Scanpix

En fastfoodmedarbejder er en sort kvinde. En politiker, advokat, dommer eller direktør er en hvid mand. Den slags forudindtagetheder ved vi allerede eksisterer. Men nu har Bloomberg lavet en imponerende undersøgelse, der tester den del af kunstig intelligens, der omsætter tekst til billeder – generativ AI – i programmet Stable Diffusion. Ved at køre tusinder af prompts på alt fra ingeniører til indsatte, bekræfter billederne i alle tilfælde fordommene.

Stable Diffusion skulle allerede have teknologien til at træne datasæt specifikt på forskellige lande og kulturer; de er bare ikke begyndt at bruge den endnu. Og problemet er altså, at de genererede billeder risikerer at blive brugt som træningsdata, og dermed ender man med en “sneboldseffekt af forværret bias”, som Bloomberg mundret formulerer det.

I Danmark har en tech-ekspertgruppe nedsat af regeringen haft til formål at bekæmpe netop bias. Mandag præsenterede den sine konklusioner, der bl.a. vil stille “krav til, at techfirmaerne laver konsekvensanalyser af deres nye algoritmer. Det skal sikre, at algoritmerne ikke indeholder eksempelvis bias, der kan diskriminere bestemte befolkningsgrupper.”

Vil du have artiklen gratis?

Vi låser den op med det samme, hvis du tegner et prøveabonnement på Føljeton. Det koster 0 kr. de første 30 dage. Ingen binding.

Bliv abonnent

Allerede abonnent? Log ind.

1

2

3

4

5

6

7

8

9

10

11

12