Ethics Advisory Panel zur Kontrolle von KI
„Ich habe nicht 27 Jahre meines Lebens damit verbracht, etwas zu realisieren, dass der Welt schadet“. Dieses Zitat stammt von Michael Stewart, Mitgründer und CEO der KI-Firma Lucid aus Texas. Diese Firma hat kürzlich ein KI-System vorgestellt, an dem sie zwei Jahrzehnte gearbeitet hat.
„Ich habe nicht 27 Jahre meines Lebens damit verbracht, etwas zu realisieren, dass der Welt schadet“. Dieses Zitat stammt von Michael Stewart, Mitgründer und CEO der KI-Firma Lucid aus Texas. Diese Firma hat kürzlich ein KI-System vorgestellt, an dem sie zwei Jahrzehnte gearbeitet hat.
Um zu verhindern, dass diese Technologie schädliche Auswirkungen hat, entschied sich Stewart zusammen mit dem Rechtsexperten Kay Firth-Butterfield dazu, ein Ethics Advisory Panel ins Leben zu rufen, das der Firma dabei hilft, dass ihre KI-Systeme für gute Zwecke eingesetzt werden.
Das KI-System von Lucid nennt sich Cyc. Das Cyc-Projekt wurde schon 1984 vom bekannten Computer-Wissenschaftler Dr. Doug Lenat in die Wege geleitet. Er und Stewart haben lange Jahre zusammengearbeitet und die Firma Lucid gegründet, als sich das System seiner Fertigstellung näherte.
Weiße Flecken auf der Landkarte
Jede Technologie kann segensreiche und schädliche Wirkungen haben, doch bei der KI ist dieser Aspekt noch wichtiger, denn KI birgt für den Menschen besondere Gefahren. Das Spektrum reicht von rein ingenieurtechnischen Fragen wie dem Steuerungsproblem (z. B. wie eine Super-Intelligenz unter menschlicher Kontrolle gehalten werden kann) bis hin zur sozioökonomischer Sprengkraft (z. B. wie es um die Vermögensverteilung steht, wenn immer mehr Jobs von Maschinen übernommen werden).
Moderne KI stellt also komplexe Fragen, und es wird zukünftig hierfür sicherlich viel Aufmerksamkeit geben. An der University of Cambridge hat das Centre for the Study of Existential Risk (CSER) beispielsweise ein Spezialprogramm zur Erforschung der Risiken der KI aufgelegt. Letztes Jahr wurde OpenAI gegründet, eine NGO mit dem Ziel der öffentlichen Zugänglichmachung von KI-Forschung. Lucid ist nun die erste kommerzielle KI-Firma, die ein eigenes Ethics Advisory Panel aufgelegt hat.
Weiterlesen im englischen Originalartikel >>
Um zu verhindern, dass diese Technologie schädliche Auswirkungen hat, entschied sich Stewart zusammen mit dem Rechtsexperten Kay Firth-Butterfield dazu, ein Ethics Advisory Panel ins Leben zu rufen, das der Firma dabei hilft, dass ihre KI-Systeme für gute Zwecke eingesetzt werden.
Das KI-System von Lucid nennt sich Cyc. Das Cyc-Projekt wurde schon 1984 vom bekannten Computer-Wissenschaftler Dr. Doug Lenat in die Wege geleitet. Er und Stewart haben lange Jahre zusammengearbeitet und die Firma Lucid gegründet, als sich das System seiner Fertigstellung näherte.
Weiße Flecken auf der Landkarte
Jede Technologie kann segensreiche und schädliche Wirkungen haben, doch bei der KI ist dieser Aspekt noch wichtiger, denn KI birgt für den Menschen besondere Gefahren. Das Spektrum reicht von rein ingenieurtechnischen Fragen wie dem Steuerungsproblem (z. B. wie eine Super-Intelligenz unter menschlicher Kontrolle gehalten werden kann) bis hin zur sozioökonomischer Sprengkraft (z. B. wie es um die Vermögensverteilung steht, wenn immer mehr Jobs von Maschinen übernommen werden).
Moderne KI stellt also komplexe Fragen, und es wird zukünftig hierfür sicherlich viel Aufmerksamkeit geben. An der University of Cambridge hat das Centre for the Study of Existential Risk (CSER) beispielsweise ein Spezialprogramm zur Erforschung der Risiken der KI aufgelegt. Letztes Jahr wurde OpenAI gegründet, eine NGO mit dem Ziel der öffentlichen Zugänglichmachung von KI-Forschung. Lucid ist nun die erste kommerzielle KI-Firma, die ein eigenes Ethics Advisory Panel aufgelegt hat.
Weiterlesen im englischen Originalartikel >>
