US-Schulen verwenden KI, um Schüler zu überwachen

In den letzten 10 Jahren gab es in den USA 180 Schießereien in der Schule mit erstaunlichen 356 Opfern. Mit schwächeren Waffengesetzgebungen im Land wenden sich die Schulen an Künstliche Intelligenz (KI) zum Schutz der Schüler. Laut Recode hat ein kürzlich in fast 9 öffentlichen Schulen in den USA installiertes KI-System einige Bedenken hinsichtlich der Privatsphäre aufgeworfen.

Die AI-basierte Software heißt Appearance Search und wurde von einer Firma namens Avigilon entwickelt. Die Software kann einen Schüler auf einem Schulcampus anhand seines Aussehens, seines Alters, seines Geschlechts, seiner Kleidung und bestimmter Gesichtszüge finden.

Die Software ermöglicht es der Schulverwaltung, einen Schüler zu lokalisieren und die möglichen Orte zu finden, an denen er sich auf dem Campus befunden hat, an denen Überwachungskameras vorhanden sind. Es verwendet physikalische Beschreibungen wie Alter, Geschlecht und Haarfarbe der Person. Durch die Analyse der Merkmale sucht die Software nach Übereinstimmungen mit den anderen Videobildern. Das Tool kann also nicht genau sagen, wer die Person ist, aber es kann erkennen, wo sie sich während ihrer Zeit im Schulbereich befunden haben könnte.

Funktionsweise der Darstellungssuche

Die Software ist in das Überwachungssystem der Schule integriert. Wenn ein Sicherheitsbeauftragter der Schule verdächtige Aktivitäten von Schülern beobachtet, kann er auf den Körper des jeweiligen Schülers klicken, um weitere Informationen über den Schüler zu erhalten. Die Software analysiert die physikalischen Eigenschaften des Schülers wie Kleidung, Geschlecht, Haarfarbe und was das Avigilon sagt, einige Gesichtsmerkmale. Nach der Analyse dieser Merkmale passt die Software das Bild an jedes Bild an, das ähnliche Eigenschaften wie andere Kamera-Feeds aufweist.

Die Datenschutzbedenken

Wie üblich bringt AI-Software offensichtliche Datenschutzbedenken mit sich, und diese Software ist nicht anders. Viele Sicherheits- und Datenschutzfachleute haben Avigilons Appearance Search in Frage gestellt.

„Menschen verhalten sich nicht gleich, wenn sie beobachtet werden“, erinnert sich Brenda Leong, Direktorin für KI und Ethik beim Future of Privacy Forum. "Wollen wir wirklich, dass sowohl junge Schüler als auch Gymnasiasten und alle anderen das Gefühl haben, die ganze Zeit in dieser Umgebung zu arbeiten?"

Obwohl diese Software die Sicherheit erhöhen und die Gewalt in Schulen verringern soll, wird sie auf andere Weise verwendet. Schulverwalter verwenden dieses Tool, um Mobbing und Verstöße gegen den Verhaltenskodex von Schülern zu überwachen und um Ermittlungen gegen Schulangestellte zu unterstützen.

Diese Technologie basiert nicht vollständig auf Gesichtserkennung, Es ist jedoch eine Software, die bestimmte Merkmale des Gesichts erkennen kann. Varoon Mathur, ein Wissenschaftler, der am AI Now Institute maschinelles Lernen studiert, betrachtet Appearance Search als „Objekterkennung“. Während Logan Koepke vom gemeinnützigen Aufschwung der digitalen Rechte es als "Personenerkennungs" -Software bezeichnet, analysiert er andere Merkmale der Person und nicht ausschließlich das Gesicht.

Mit dieser Software, die in den meisten Schulen der USA in Arbeit ist, können Schüler niemals Privatsphäre haben. Schulverwalter berichteten, dass es keine Berichte über Datenschutzverletzungen in Bezug auf die Software gab.

Der ehemalige Schüler der Marjory Stoneman Douglas High School (eine Schule, in der die Software bereits installiert wurde), Koerber, sagte: „Ein Schulschießen kann jederzeit und an jedem Ort stattfinden. Wir wissen das. Aber müssen wir in die Privatsphäre jeder Person eindringen, die sich an einer bestimmten Schule anmeldet, um dies zu verhindern? Ich glaube nicht, dass das der Fall ist. “