Wissenschaft

311 readers

1 users here now

Community für Austausch zum Thema Wissenschaft.

Wikipedia: "Das Wort Wissenschaft [...] bezeichnet die Gesamtheit des menschlichen Wissens, der Erkenntnisse und der Erfahrungen einer Zeitepoche, welche systematisch erweitert, gesammelt, aufbewahrt, gelehrt und tradiert wird."

Verwandte Communities:

Netiquette wird vorausgesetzt. Gepflegt wird ein respektvoller Umgang - ohne Hass, Hetze, Diskriminierung.

Bitte beachtet die Regeln von Feddit.org.

Attribution

Das Icon zeigt Kolben und Reagenzglas. Image by Memed_Nurrohmad on Pixabay

founded 10 months ago

MODERATORS

marv99

favstarmafia

KI-generierte Fachartikel entlarvt (www.scinexx.de)

submitted 2 months ago by marv99 to c/wissenschaft

1 comments fedilink hide all child comments

Typische Phrasen von ChatGPT tauchen selbst in hochrangigen Journalen auf

Heimlicher Helfer: Bei wissenschaftlichen Fachartikeln schreibt immer häufiger ein nicht deklarierter Autor mit: die künstliche Intelligenz. Das verraten typische KI-Phrasen selbst in einigen Top-Journalen. Mitten im Text stehen dann Halbsätze wie: „Als KI Sprachmodell…“ oder „Meinem letzten Wissens-Update zufolge….“ Das Brisante daran: Der Einsatz von ChatGPT und Co ohne entsprechende Angabe ist in fast allen Fachjournalen verboten. Hinzu kommt: Wenn nicht einmal diese verräterischen Phrasen auffallen, wie sieht es mit Fehlern und Halluzinationen der KI aus?

Paper: ‘As of my last knowledge update’: How is content generated by ChatGPT infiltrating scientific papers published in premier journals? | PDF

you are viewing a single comment's thread
view the rest of the comments

[–] smokeysnilas 7 points 2 months ago

Ich glaube das Problem sind halt eher die Fehlanreize in der Wissenschaft nur auf Publikationsstatistik. Das führt schon seit langem zu Problemen wie Zitationskartelle, Paper-Mühlen usw. und im dem Kontext habe ich keine Zweifel dass solche offensichtlich KI generierten Paper auch als Publikationen angenommen werden. Das Problem ist also nicht neu und hängt auch nicht am Aufkommen von KI, z.B. die "random paper generator" gibt es seit Anfang der 2000er.

Ob es sich dann aber wirklich um "hochrangige Journals" handelt wage ich aber stark zu bezweifeln. Schon mittelmäßig renommierte Journals oder Konferenzen haben ausreichend Peer-Review Druck, dass offensichtliche KI Artefakte kaum durchgehen dürften. Das größere Problem sind wohl die Paper, die zumindest einmal Korrektur gelesen wurden um die offensichtlichen Hinweise auf KI Autorschaft zu entfernen.