PensionDanmarks dialog med Baidu
Baidu blev grundlagt i 2000 og har siden 2010 integreret kunstig intelligens (AI) i sine produkter, som i dag anvendes på over en milliard enheder månedligt. Overordnet vurderer PensionDanmark, at brugen af AI indebærer en række konkrete risici, herunder uigennemsigtige algoritmiske beslutninger, der kan føre til diskrimination, samt risiko for utilstrækkelig datasikkerhed og brud på privatlivsbeskyttelsen. Det er vigtigt, at disse risici bliver adresseret, og derfor har PensionDanmark gennem Federated Hermes EOS ført dialog med Baidu siden 2019 med særligt fokus på ansvarlig brug af kunstig intelligens.
I 2019 deltog vi i et møde med Baidu i forbindelse med selskabets test af selvkørende biler, hvor vi rejste bekymringer om AI-etik og opfordrede Baidu til at offentliggøre principper for ansvarlig brug og udvikling af AI. Samme år deltog Baidu i udarbejdelsen af etiske AI-retningslinjer under Beijing Academy of Artificial Intelligence.
I 2020 sendte vi et brev til bestyrelsesformanden og direktøren med bekymringer om datasikkerhed og algoritmisk bias. Baidu svarede med en redegørelse for deres tiltag, herunder blokering af skadeligt indhold og inddragelse af brugernes feedback. Samme år offentliggjorde selskabets direktør fire AI-principper:
- Sikkerhed og kontrol,
- Lige adgang til teknologi,
- Menneskelig bemyndigelse og
- Frihed og nye muligheder
Selvom dette var et fremskridt, så vurderede vi, at der stadig var behov for mere robuste principper. Derfor gentog vi i 2022 vores opfordring, og i forbindelse med selskabets Q3-rapportering i 2023, hvor AI’s rolle i forretningsmodellen blev fremhævet, skrev vi igen og efterlyste større transparens. Samme år oprettede Baidu en ”teknologietisk komite&rdquo. I 2024 var der møde med Baidu på selskabets hovedkontor i Beijing. Her præsenterede selskabet “Baidu AI Ethics Measures”, som blev offentliggjort i august 2024 og bygger videre på de tidligere fire principper. Vi anbefalede, at principperne også bør omfatte “no-go”-områder med uacceptabel risiko, og derudover opfordrede vi selskabet til at inkludere eksempler på deres AI-opkvalificeringsinitiativer i fremtidig rapportering.
Udvikling og fremadrettet handling
De nye principper omfatter blandt andet løbende AI-træning, etisk tilsyn, deltagelse i branchestandarder og inddragelse af interessenter. Baidu står nu bedre rustet til at håndtere risici og udnytte mulighederne i AI-udvikling og -anvendelse end tidligere.
Vi vil fortsætte dialogen med selskabet med fokus på, at selskabets principper for ansvarlig AI følger den teknologiske udvikling samt et behov for styrket bestyrelsesmæssigt tilsyn med AI-risici og -muligheder.
