Meer dan 1000 YouTube-kanalen gebruiken door AI gegenereerde doktersavatars om wereldwijd onjuist gezondheidsadvies te verspreiden, waaronder 20 in het Pools, aldus factcheckers. Experts waarschuwen dat nieuwe EU-regels de trend weliswaar zullen beteugelen, maar niet stoppen.
citaatfoto: ARCHIEFFOTO: AI
Het netwerk, dat eind juli werd ontmaskerd door de Spaanse factcheckwebsite Maldita.es en gedeeld met het Poolse persbureau PAP, omvat meer dan 30 talen. De Poolstalige kanalen, waarvan er verschillende in de afgelopen drie maanden zijn aangemaakt, gebruiken AI-avatars die op artsen lijken en namen die zijn opgebouwd uit woorden als “dr” en veelvoorkomende achternamen zoals Kowalski of Nowak.
In hun video’s worden beweringen gedaan die geen enkele medische basis hebben: dat zonnebrandcrème kanker veroorzaakt, dat eieren kanker en diabetes genezen, en dat mensen met een bloeddruk van 180/110 mm Hg geen arts hoeven te raadplegen.
Vergelijkbaar materiaal circuleert op Facebook en TikTok, waar door AI gegenereerde “kruidengeneeskundige oma’s” en dierenartsen kruidenmiddelen aanprijzen als alternatief voor medicijnen – soms in combinatie met betaalde e-books. Een Facebook-video waarin een blad werd aangeprezen als een niet nader genoemd geneesmiddel tegen kanker, werd 90.000 keer bekeken.
Katarzyna Lipka, van de afdeling voor desinformatiebestrijding van het Poolse onderzoeksinstituut NASK, zei dat de inhoud het gevaarlijkst is voor mensen met aandoeningen die zonder snelle behandeling fataal aflopen.
“Bij veel ziekten, en kanker in het bijzonder, hangt de effectiviteit van de therapie vaak af van een snelle start van de behandeling”, zei ze, eraan toevoegend dat video’s die medische zorg ontmoedigen het risico met zich meebrengen dat de diagnose wordt vertraagd en de prognose verslechtert.
Lipka zei dat de kanalen zich bewust richten op oudere kijkers – die vaker chronische ziekten hebben en, volgens haar, meer moeite hebben om door AI gegenereerde nepberichten te herkennen – met lokkertjes zoals “drink dit elke dag na je 60e” of “waarom artsen deze 5 tests na je 65e geheimhouden”.
Een account dat zich voordeed als de Poolse gezondheidsinspectie vroeg in de reacties om medische dossiers. Volgens Lipka zou dit makers kunnen helpen te bepalen welke gezondheidsonderwerpen het grootste publiek trekken.
Ze zei dat 14 van de onderzochte accounts overeenkomen met een NASK-database van 140 gemelde kanalen, en dat het bredere patroon – los van individuele valse beweringen – een poging is om het publieke vertrouwen in de geneeskunde en wetenschappelijke instellingen te ondermijnen. TikTok heeft accounts verwijderd die door NASK waren gemeld, zei ze, maar YouTube heeft niet gereageerd op de rapporten van het instituut.
Meta en Google wezen, gevraagd naar de inhoud, beiden op beleid dat misleidende gezondheidsinformatie verbiedt. Een woordvoerder van Meta zei dat accounts die misleidende praktijken gebruiken om mensen te misleiden niet zijn toegestaan en dat overtreders worden aangepakt zodra ze worden gemeld. Het Poolse persbureau van Google zei dat YouTube content verbiedt die “een ernstig risico op schade” vormt door de richtlijnen van lokale gezondheidsautoriteiten tegen te spreken, en dat dit ook geldt voor door AI gegenereerd materiaal. Overtredingen leiden tot snelle handhaving.
Lipka adviseerde kijkers om te letten op de kenmerkende signalen van AI-nepvideo’s: onregelmatig of onnatuurlijk knipperen, onregelmatige lipbewegingen, een vlakke of vreemd intonerende stem en struikelen over cijfers of namen. “Als een video schokkend, ongeloofwaardig of extreem controversieel lijkt, moet dat een waarschuwingssignaal zijn”, zei ze.
Ze voegde eraan toe dat de AI-wetgeving van de EU weliswaar zou helpen, maar het probleem niet zou oplossen, aangezien algoritmische aanbevelingen kijkers herhaaldelijk aan dezelfde valse verhalen kunnen blootstellen, waardoor ze er juist in gaan geloven. Maria Dymitruk, een specialist in AI-recht bij het advocatenkantoor Lubasz i Wspólnicy, merkte afzonderlijk op dat de verplichting om deepfakes te labelen volgens de wet voornamelijk geldt voor bedrijven, niet voor particulieren. Dit betekent, zei ze, dat zelfs als bedrijven beginnen met het overmatig labelen van door AI gegenereerde advertenties, de bredere stroom deepfakes online, inclusief die welke zijn gemaakt voor desinformatie, waarschijnlijk grotendeels ongecontroleerd zal blijven voortduren.
(jh)
Bron: PAP, polskieradio.pl by (jh)
