AI Act KitCe module sert de support de formation interne au titre de l'article 4 de l'AI Act. Il est décliné par groupe de métier. Chaque participant émarge et reçoit une attestation de suivi.
L'IA générative (ChatGPT, Copilot, Midjourney) produit du texte, du code ou des images en prédisant l'élément le plus probable à partir d'un gigantesque corpus d'entraînement. Conséquence clé : elle ne « comprend » pas et n'a pas accès à une vérité ; elle génère ce qui est plausible. Elle peut donc se tromper avec aplomb (on parle d'« hallucination »).
ChatGPT (rédaction, idéation), Microsoft Copilot (bureautique), Midjourney (visuels), GitHub Copilot (développement), Notion AI (documentation). Tous relèvent du risque limité ou minimal au sens de l'AI Act, mais l'obligation de littératie s'applique quand même.
L'AI Act impose la transparence (signaler certains contenus générés), le RGPD encadre les données personnelles, et les conditions des outils interdisent souvent certains usages. En cas de doute, demander au référent IA.
Risque principal : statut juridique incertain des images générées (Midjourney) et risque de ressemblance avec des œuvres protégées. Réflexes : ne pas présenter une image IA comme une création originale exclusive sans vérification, conserver les prompts, éviter de reproduire le style nommé d'un artiste vivant, vérifier les droits avant usage commercial.
Risque principal : code suggéré (GitHub Copilot) qui introduit des failles de sécurité ou des dépendances douteuses. Réflexes : revue humaine systématique, ne pas coller de secrets/clés dans l'outil, tester, ne pas faire confiance aveuglément aux suggestions.
Risque principal : fuite de données prospects/clients et contenus trompeurs. Réflexes : anonymiser, vérifier les affirmations marketing générées, signaler l'usage de l'IA quand le contexte l'exige.
Risque principal : traitement de données personnelles (candidatures, paie) via des outils d'IA et décisions automatisées. Réflexes : ne jamais déléguer une décision RH à l'IA, anonymiser les données, garder un contrôle humain sur tout tri de candidatures.
Responsabilités : maintenir l'inventaire et la politique à jour, arbitrer les nouveaux outils, garantir la traçabilité, suivre l'évolution réglementaire (Omnibus).