Checklista for forbjudna AI-praktiker for grundare och complianceansvariga

Forbjudna AI-praktiker ar AI-anvandningar som ska blockeras, designas om eller eskaleras innan produktion. For SaaS-team ar den anvandbara fragan inte bara om artikel 5 i EU:s AI Act galler. Fragan ar om foretaget tidigt kan upptacka oacceptabel AI-anvandning och dokumentera beslutet fore lansering, leverantorsinförande eller kundgranskning.

Anvand checklistan for egna AI-funktioner, inbaddad tredjeparts-AI, interna verktyg, reglerade kunder och andringar i hur AI-resultat paverkar manniskor.

1. Bekrafta anvandningsfallet

Dokumentera system, produkt, arbetsflode, agare, leverantor, modell eller tjanst, syfte, anvandare, berorda personer, data, geografi och om resultatet paverkar ett beslut. Fraga om foretaget bygger, koper, integrerar, konfigurerar eller anvander systemet; om det ar internt eller kundvant; om det paverkar, bedomer eller klassificerar personer; om det behandlar biometriska data; och om personer i EU kan paverkas.

Om fallet tydligt ar utanfor omfattningen, spara motiveringen. Vid osakerhet, fortsätt.

2. Kontrollera manipulation eller vilseledning

Artikel 5 omfattar vissa system som anvander subliminala, manipulativa eller vilseledande tekniker som väsentligt snedvrider beteende, forsämrar informerade beslut och orsakar eller sannolikt orsakar betydande skada.

Granska anvandarresa, personalisering, rekommendationer och nudges. Döljer systemet viktig information? Anpassar det tryck mot en person? Leder det till skadliga val? Ar AI-anvandningen begriplig?

Spara skarmbilder, personaliseringslogik, berorda grupper, skadeanalys och redesignbeslut. Vid dolt tryck eller vilseledande paverkan ska lanseringen stoppas tills granskning ar klar.

3. Uteslut utnyttjande av sarbarhet

AI Act behandlar ocksa utnyttjande av sarbarhet kopplad till alder, funktionsnedsattning eller specifik social eller ekonomisk situation nar beteendet snedvrids och betydande skada kan uppsta.

Kontrollera om funktionen riktar sig mot, profilerar eller pressar sarbara personer: barn, patienter, studenter, arbetstagare, ekonomiskt utsatta konsumenter, personer med funktionsnedsattning eller anvandare av viktiga tjanster. Krav review nar systemet personaliserar overtalning, prioritet, behorighet, pris, support eller atgarder.

4. Uteslut social scoring

Social-scoringrisk uppstar nar ett system bedomer personer over tid utifran socialt beteende eller personliga egenskaper och leder till negativ behandling i orelaterade sammanhang eller oproportionerliga konsekvenser.

Aven B2B SaaS kan berora monstret i trust, fraud, safety, HR, utbildning, communities eller marketplaces. Dokumentera vad poangen anvands till, om fysiska personer berors, sambandet med ursprunglig datakontext och proportionaliteten.

5. Eskalera biometri, kanslor och straffrisk

Eskalera om systemet bedomer risk for brott enbart via profilering eller personlighetsdrag, bygger ansiktsigenkanningsdatabaser genom oriktad scraping, drar slutsatser om kanslor pa arbetsplats eller utbildning annat an for medicinska eller sakerhetsskal, anvander biometri for kansliga drag eller stoder biometrisk fjarridentifiering i realtid i offentliga miljoer for brottsbekampning.

Granska vad systemet faktiskt gor, inte leverantorsord som engagement, insight, safety eller identity.

6. Utse agare och granskare

Affarsagaren levererar fakta. Granskaren beslutar om anvandningen fortsatter, andras eller blockeras. Posten ska innehalla systemnamn, syfte, berorda personer, leverantor, besvarade fragor, slutsats, motivering, kravda andringar, godkannare och trigger for ny granskning.

7. Koppla till lanserings- och leverantorsgrindar

Lagg in fragorna i product intake, security review, privacy review, leverantorsonboarding, godkannande av interna verktyg och kundinriktad AI-dokumentation. Ingen AI-anvandning bor starta utan genomford screening eller bekräftelse pa att den inte behovs.

8. Definiera ny granskning

Oppna beslutet igen om syfte, marknad, anvandare, leverantor, data, automatisering, kundkonfiguration eller EU-vagledning andras.

FAQ

Vad ar det praktiska syftet?

Att stoppa oacceptabel AI-anvandning innan den blir del av produkt, leverantor, internt flode eller kundlofte.

Nar ar detta relevant for SaaS?

Nar teamet bygger, koper, integrerar, saljer, konfigurerar eller anvander AI som kan manipulera personer, utnyttja sarbarhet, poangsatta personer, behandla biometri eller tolka kanslor.

Vad ska dokumenteras forst?

Intake, agare, granskare, kort slutsats och lanseringsgrind, kopplat till leverantorsgranskning, privacy, security och customer trust.

Kallor

• Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence.
• European Commission guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689.