inf-schule | Chancen und Risiken

Einstieg

Chancen und Risiken von KI

Aufgabe: Bletchley-Park-Erklärung zu KI

Am 1. und 2. November 2023 trafen sich Vertreter aus Politik, Wirtschaft und Wissenschaft an einem informatisch-historischen Ort - im Landsitz Bletchley Park, um über die Gefahren von KI zu diskutieren.

In der abschließenden Erklärung heißt es u.a. übersetzt

Erhebliche Risiken können sich aus einem möglichen vorsätzlichen Missbrauch oder unbeabsichtigten Kontrollproblemen im Zusammenhang mit der Anpassung an menschliche Absichten ergeben. Diese Probleme sind zum Teil darauf zurückzuführen, dass diese Fähigkeiten nicht vollständig verstanden werden und daher schwer vorherzusagen sind. Besonders besorgniserregend sind solche Risiken in Bereichen wie der Cybersicherheit und der Biotechnologie sowie in Bereichen, in denen KI-Systeme Risiken wie Desinformation verstärken können. Die wichtigsten Fähigkeiten dieser KI-Modelle können schwerwiegende, ja sogar katastrophale Schäden verursachen, die entweder absichtlich oder unabsichtlich herbeigeführt werden.

AI Safety Summit / gov.uk [1]

Erläutere das aufgeführt Zitat, in dem du zu den einzelnen Punkten (fiktive) Beispiele aufführst.
Im Originaldokument werden auch Chance der KI aufgeführt. Nenne die entsprechenden Formulierungen.

Aufgabe: KI-Systeme im Einsatz

Das Magazin "netzpolitik.org" identifiziert mehrere KI-Systeme im Einsatz, die von dem Magazin kritisch gesehen werden (zitiert aus diesem Artikel, die verlinkten 5 Artikel sind fast alle englisch):

Kameras in der Stadt sollen angeblich verdächtige Bewegungsmuster erfassen
Software in der Personalabteilung soll angeblich schlechte Bewerbungen aussortieren
Rechenprogramme sollen der Polizei verraten, wo angeblich kriminelle Menschen wohnen
Lügendetektoren an der EU-Außengrenze sollen bestimmen, ob Asylsuchende die Wahrheit sagen
Autopiloten sollen bewaffnete Drohnen steuern, bevor sie angebliche Feinde in die Luft sprengen

Das Magazin bezeichnet die oben genannten Systeme als "weder 'sicher', noch 'vertrauenswürdig' noch 'verantwortungsvoll'" und sie würden "dem 'Wohl' von Menschen schaden". [2]

Teilt euch als Gruppe die oben genannten 5 Artikel auf und versucht eine Begründung zu finden, wie das Magazin zu dieser Aussage kommt.
Stellt euch im Anschluss in der Gesamtgruppe die betrachteten KI-Systeme und eure Begründung vor.

Aufgabe: Leitlinien zur KI-Gestaltung

Der Umgang mit KI soll geregelt werden.

Sowohl die G7 hat Leitlinien für den Umgang mit der KI-Technologie beschlossen (Stand 11/23 sind sie noch unveröffentlicht) als auch die EU hat eine KI-Verordnung ("AI Act") auf den Weg gebracht.

Recherchiert in der Gruppe arbeitsteilig die Inhalte dieser Leitlinien bzw. Verordnungen und stellt sie euch gegenseitig vor.