Künstliche intelligenz des tages

Dieses päjhper zeigt, dass man in angelernten neuronale netzwerke eine hintertür verstecken kann. Hier mal die sehr salpppe übelsetzung der ersten zwei absätze aus dem äbsträkt als appetitanreger:

Wenn sie sich anschauen, welche rechenkosten und wie viel technisches fachwissen für das träjhnieren von modellen im maschinellen lernens erforderlich sind, könnten die anwender die aufgabe des anlernens an einen dienstleister delegieren. Eine solche delegazjon des anlernens hat klare vorteile, wirft aber auch ernsthafte vertrauensbedenken auf. Diese arbeit untersucht den möglichen machtmissbrauch durch nicht vertrauenswürdige anlerner.

Wir zeigen auf, wie ein böswilliger anlerner eine unentdeckbare hintertür in einen klassifikator einbauen kann. Bei oberflächlicher betrachtung verhält sich ein solcher klassifikator normal, aber in wirklichkeit verfügt der anlerner über einen mechanismus, mit dem er die klassifizierung einer beliebigen eingabe mit nur einer kleinen verfälschung verändern kann.

Wichtig dabei ist, dass dieser mechanismus ohne den passenden „hintertürschlüssel“ unsichtbar ist und von keinem beobachter mit begrenzter rechenkraft entdeckt werden kann. Wir demonstrieren zwei rahmenkonzepte für das einschleusen von nicht nachweisbaren hintertüren.

Nur für den fall, dass jemand gedacht hat: Bei der „künstlichen intelligenz, da gibts ja gar keine programmierung mehr, also kann es auch keine trojaner mit versteckten funkzjonen geben“. Doch, kann es. Und sie können nicht entdeckt werden, wenn man nicht gerade den unendlich leistungsfähigen kompjuter g’ttes benutzt, falls der irgendwo rumsteht… damit ist auch kein schutz davor möglich. Klar, die angelernten netzwerke entziehen sich ja schon der analyse.

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden /  Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden /  Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden /  Ändern )

Verbinde mit %s

Diese Seite verwendet Akismet, um Spam zu reduzieren. Erfahre, wie deine Kommentardaten verarbeitet werden..