Mangels einer besseren Definition für sagten meine Profs: » ist eine Software, solange sie nicht richtig funktioniert.«

Heute funktionieren -Technologien durch /#DeepLearning oft gut. Aber Ergebnisse sind nicht nachvollziehbar.

Als -Technologien noch nicht praktisch nutzbar waren, schien es nicht wichtig, eine gründliche zu machen. Aber man darf nicht auf Ethiker abschieben. Alle müssen sich über die Folgen ihres Tuns Gedanken machen.

Lesetipp: Dürrenmatts Physiker.

@chpietsch Problem: Projekt wird geplant, ist fast fertig, dann kommt einer von den Meckerern. Dann gehen sie zum Ethiker und sagen "make ethics" und wundern sich, dass es nicht kompiliert

@chpietsch
#Technikfolgenabschätzung ist nur nice2have, ebenso wie ethische Reflexionen. Diese müssen niemanden interessieren. Verpflichtend ist dagegen eine Datenschutz-Folgenabschätzung gem. Art. 35 DSGVO von Verarbeitungungsvorgängen unter Rückgriff auf KI durch Organisationen entlang der Umsetzung der Grundrechts-Grundsätze aus Art.5 DSGVO. Und diese tragen ungleich viel weiter als jede TA oder Ethik.

Deshalb mein Lesetipp:
heise.de/developer/artikel/Kue

@Martin_Rost Vielen Dank für die Begriffsschärfung! Es ist gut, dass wir jetzt mit der einen EU-weiten gesetzlichen Rahmen haben. Auf dessen Einhaltung müssen wir achten.

Zusätzlich sollten Forschende und Programmierende ein Gespür dafür entwickeln, was in Zukunft aus ethischen Gründen verboten wird, und sowas erst gar nicht entwickeln. Insofern bleibt eine unerlässlich.

@chpietsch Bitte nimm mir mein nerdiges Insistieren nicht krumm. Du hast den springenden Punkt einfach nicht: Forschende und Programmierende sollten vor allem wissen(! das ist mehr als Gespür, ok?), was grundrechtlich (! hast Du ne Vorstellung, was damit genau gemeint ist?) geht bzw. was legitim zu entwickeln ist und was nicht. In Bezug auf gesellschaftliche Folgen ist eine #DSFA wesentlich gehaltvoller als eine #TA. Und: Eine DSFA kann dazu führen, daß eine Technik nicht eingesetzt werden darf!

@Martin_Rost Ich saß in deinem Vortrag bei @Digitalcourage zu und , also weiß ich wohl, was du meinst.

Ob deine oder meine Forderung weitergehend ist, sei dahingestellt.

Ich finde, die Gesetzgebung hinkt der Technik oft hinterher. Dass Gesetze einzuhalten sind, ist eh klar. Ich stimme dir zu, dass Gesetze besser sind als (meist windelweiche) freiwillige Selbstverpflichtungen und Zertifizierungen der Industrie. Mir geht es um etwas anderes: persönlich Verantwortung übernehmen.

@Martin_Rost @Digitalcourage
PS Literaturtipp: Herman Melville. Bartleby (der immer sagte: “I would prefer not to.”)

@chpietsch @Digitalcourage

Ich teile nicht die in Bezug auf Datenschutz verdächtig populäre Ansicht, dass Gesetzgebung der Technik hinterherhinke. Was ich stattdessen beobachte ist vielmehr eine ausgeprägte Ignoranz gegenüber rechtlichen Regelungen bei gleichzeitiger Überheblichkeit von Techniker* gü. anderen Intelligenzformen zur Beobachtung und Beurteilung von Technik.

Dazu ein weiterer Lestipp:
fiff.de/publikationen/fiff-kom

Sign in to participate in the conversation
chaos.social

chaos.social - because anarchy is much more fun with friends.
chaos.social is a small Mastodon instance for and by the Chaos community surrounding the Chaos Computer Club. We provide a small community space - Be excellent to each other, and have a look at what that means around here.
Follow @ordnung for low-traffic instance-related updates.
The primary instance languages are German and English.