Taki Allen, 16 ans, ne pensait pas qu’en mangeant un paquet de chips à l’extérieur de son lycée de Baltimore, il déclencherait une intervention policière musclée dans son établissement. L’adolescent s’est retrouvé encerclé par des policiers armés puis menotté. Une erreur due au système de détection par IA utilisé par l’école qui a confondu le paquet de chips avec un pistolet.
Cela avait tout d’une journée normale au sein de son lycée pour Taki Allen, 16 ans. Jusqu’au moment où une horde de policiers a débarqué dans l’établissement, armes en main pointées vers lui. En cause ? Le système de détection par IA (Intelligence artificielle) utilisé par le lycée Kenwood High School de Baltimore qui a confondu un paquet de chips avec une arme à feu, rapporte la chaîne locale WMAR 2 News.
Après son entraînement de football américain, Taki Allen s’est assis à l’extérieur de son établissement avec ses amis, en attendant qu’on vienne le récupérer. L’adolescent s’est alors accordé un encas et a mangé un paquet de chips de la marque Doritos. Une fois fini, il a mis le paquet vide dans sa poche, sans s’imaginer un instant les évènements qui allaient suivre.
“La police est arrivée, avec environ huit voitures, puis ils sont tous sortis avec leurs armes pointées sur moi et m’ont ordonné de me mettre à terre. J’ai levé les mains en disant : ‘Que se passe-t-il ?'”, raconte le garçon, encore sous le choc. Un policier lui dit alors de se mettre à genoux et le menotte. Après avoir arrêté l’adolescent, les agents l’ont fouillé. Ils ont finalement retrouvé le paquet vide près de la porte.
L’un des policiers lui a ensuite montré une image provenant du système de vidéosurveillance avec détection par IA utilisé par l’école. Ce dernier a identifié le paquet de chips froissé comme ressemblant à une arme à feu.
“Je n’ai plus envie d’aller dehors”
“Le programme est basé sur la vérification humaine et, dans le cas ici présent, il a fait ce qu’il était censé faire, c’est-à-dire lancer une alerte et demander à des humains de vérifier s’il y avait lieu de s’inquiéter à ce moment-là”, a justifié la directrice de l’établissement, Myriam Rogers.
Une explication qui ne semble pas convaincre Taki Allen. “Je ne pense pas qu’un paquet de chips devrait être confondu avec un pistolet”, a-t-il rétorqué, sceptique. Dans un courrier adressé au parent de l’adolescent, la principale du lycée, Kate Smith a écrit : “Sachez que la sécurité de nos élèves et de notre communauté scolaire est l’une de nos principales priorités”. Mais selon le jeune homme, il a fallu trois jours pour que la principale ne s’adresse à lui. “Je m’attendais à ce qu’ils viennent au moins me voir après l’incident ou le lendemain”, regrette-t-il.
“Maintenant, parfois après l’entraînement, je n’ai plus envie d’aller dehors, encore moins de manger un paquet de chips ou de boire quelque chose. J’attends à l’intérieur jusqu’à ce qu’on vienne me charger”, a confié Taki Allen.
Il espère voir la technologie changer pour quelque chose de plus précis. La directrice a déclaré qu’elle allait considérer des changements.