this post was submitted on 22 Aug 2024
12 points (92.9% liked)

Künstliche Intelligenz

65 readers
1 users here now

Community für Austausch zum Thema Künstliche Intelligenz.

#ai #ki #artificial-intelligence

Wikipedia: "Künstliche Intelligenz (KI), auch artifizielle Intelligenz (AI), englisch artificial intelligence, ist ein Teilgebiet der Informatik, das sich mit der Automatisierung intelligenten Verhaltens und dem maschinellen Lernen befasst. Der Begriff ist schwierig zu definieren, da es bereits an einer genauen Definition von Intelligenz mangelt. "

Anwendungen:

Verwandte Communities:

IT Communities:

Netiquette wird vorausgesetzt. Gepflegt wird ein respektvoller Umgang - ohne Hass, Hetze, Diskriminierung.

Bitte beachtet die Regeln von Feddit.org.

Attribution

  • Das Banner zeigt ein Symbolbild für Künstliche Intelligenz. Image by Gerd Altmann on Pixabay
  • Das Icon zeigt ein von marv99 mit Image Creator erzeugtes Logo.

founded 2 months ago
MODERATORS
marv99
12
Der Journalist Martin Bernklau ist Opfer des KI-Chats Copilot geworden. Die Künstliche Intelligenz von Microsoft macht aus dem unbescholtenen Tübinger einen Kinderschänder. (www.swr.de)
submitted 3 weeks ago by caos to c/kintelligenz
11 comments fedilink hide all child comments
 

"Martin Bernklau aus Tübingen hat sich nie etwas zuschulden kommen lassen. Doch das, was er jetzt erlebt, versetzt ihn in Schock. Im Chat mit Copilot, der Künstlichen Intelligenz (KI) von Microsoft, wird er als verurteilter Kinderschänder, Ausbrecher aus der Psychiatrie oder Witwenbetrüger bezeichnet. (...)

Medienethikerin Heesen: Vorsicht! Ein KI-Chat halluziniert

KI-Chats seien darauf trainiert, immer etwas zu antworten, um ein Gespräch mit dem Nutzer zu führen. Es würden dann auch fiktive Inhalte erzeugt, die gar nichts mit der Wahrheit zu tun hätten.

Microsoft übernimmt keine Haftung für Aussagen des Chats

Beschwerden über Inhalte von Chats seien schwierig, so die Einschätzung der KI-Expertin gegenüber dem SWR. Jeder, der den Chat benutze, erkläre sich mit den Nutzungsbedingungen einverstanden. Und darin stehe, dass Microsoft für die Antworten keine Haftung übernehme."

you are viewing a single comment's thread
view the rest of the comments
[–] General_Effort@lemmy.world 1 points 3 weeks ago (1 children)

KI ist ein weites Feld. Wenn von KI in der Strafverfolgung die Rede ist, meint das keinen Chatbot.

[–] D_a_X 2 points 3 weeks ago (1 children)

Es unterschreibt dir trotzdem keiner, das das System nicht phantasiert. Das ist systemimmanent.

[–] General_Effort@lemmy.world 1 points 3 weeks ago (1 children)

Kann man so eigentlich nicht sagen. Der Begriff "KI" umfasst sehr viele Ansätze. Von einem System kann man nicht sprechen.

Bei predictive Policing geht es darum, Zusammenhänge zwischen bekannten Fakten und zukünftigen Verbrechen zu erkennen. Traditionell gibt es dafür die menschliche Erfahrung. Seit vielen Jahrzehnten benutzt man auch statistische Methoden. KI-Ansätze kann man in diesem Zusammenhang als statistische Methode begreifen. Man kann wahrscheinlich noch für die nächsten Jahre davon ausgehen, dass KI-Methoden dieselben bekannten Schwächen haben wie Statistik. In der Zukunft mag sich das ändern.

Die menschliche Erfahrung hat grundlegend dieselben Probleme wie die Statistik, aber es kommen noch ganz eigene, menschliche Schwächen dazu. Im Zweifel sollte man sich lieber auf die Statistik verlassen, als auf die Meinung eines Kriminalers. Wenn man neue Methoden kritisiert, muss man aufpassen, dass man nicht den falschen Eindruck erweckt, sie seien den alten überlegen.

[–] D_a_X 2 points 3 weeks ago (1 children)

Seit vielen Jahrzehnten benutzt man auch statistische Methoden. KI-Ansätze kann man in diesem Zusammenhang als statistische Methode begreifen. Dann sollte man das auch so benennen, als eine statistische Methode, Daten anders auszuwerten. Aber nicht als "Künstliche Intelligenz"

So langsam reift die Erkenntnis heran, dass KI nur ein stochastischer Papagei ist. Altes Motto: Mist rein => Mist raus. Wer trainiert die KI mit welchen vor selektierten Daten? Wer entscheidet über die Selektion? Man kann auch einer KI astreinen Rassismus an trainieren.
Das, auf das alle hoffen, oder das alle fürchten, dass eine KI intelligente Schlüsse aus ihren Trainingsdaten ziehen kann und dadurch zu neuen Erkenntnissen kommt, wird wohl nicht eintreten. Du kannst im Labor eine "KI" auf Molekülkette loslassen, um zu sehen, wie sie sich falten lassen und ob man Wirkstoffe daraus ableiten könnte. Aber du kannst nicht eine KI auf ein Getümmel am Bahnhof loslassen, um daraus potentielle Straftäter zu isolieren, bevor sie straffällig geworden sind. Jede positiv-Falschmeldung zerstört ein Leben. So was wie mit dem mutmaßlichen Terroristen, den sie letzte Woche gefunden haben, der dann keiner war. Das war noch nicht mal eine KI.

Hier ein kleiner Kommentar von FEFE, der meine Sichtweise gut zusammenfasst. Und mit sowas ziehen die in den Wahlkamt. Meine Fresse.

[–] General_Effort@lemmy.world 1 points 2 weeks ago

Dann sollte man das auch so benennen, als eine statistische Methode, Daten anders auszuwerten. Aber nicht als “Künstliche Intelligenz”

Ich versuche mal, das ein bisschen zu vermitteln.

Machine Learning (ML) benutzt häufig statistische Methoden. Es gibt also zwangsläufig eine gewisse Überlappung mit der Statistik. Aber nicht alles beim maschinellen Lernen kommt aus der Statistik. Die neuronalen Netze, die man für Sprachmodelle benutzt, sind von der Biologie (und teils von der Physik) inspiriert. Es ist also ein Unterschied.

KI umfasst ML und noch einige weitere Sachen. ZB hat die KI-Forschung früher sehr hart daran gearbeitet, Schachcomputer zu programmieren. Schach ist schließlich etwas, das Intelligenz erfordert.

So langsam reift die Erkenntnis heran, dass KI nur ein stochastischer Papagei ist.

Das wird meist über Sprachmodelle gesagt, vulgo Chatbots. Die beruhen auf künstlichen neuronalen Netzen, sind also von der Biologie inspiriert. Genau wie Menschen neigen sie dazu, Aussagen oder Slogans zu wiederholen, die sie nicht verstehen. Genau wie Menschen können sie aber durchaus ein tieferes Verständnis entwickeln.

Hier ein kleiner Kommentar von FEFE, der meine Sichtweise gut zusammenfasst.

Da geht es um Bilderkennung, allgemeiner Mustererkennung. Sowas geht mit und ohne ML, aber ohne natürlich nicht nur sehr schlecht. Der Ausdruck KI ist auch praktisch, weil technische Details offen gelassen werden.

Das ist kein predictive Policing. Es geht darum, Menschen zu erkennen, die (verbotene) Waffen tragen oder polizeilich gesucht werden. Man könnte auch Menschen erkennen, die sich verdächtig verhalten, vielleicht mit dem Gedanken spielen, sich vor einen Zug zu stürzen.

So was wie mit dem mutmaßlichen Terroristen, den sie letzte Woche gefunden haben, der dann keiner war. Das war noch nicht mal eine KI.

Genau. Wie ich sagte, man muss aufpassen mit der Kritik.