Wo ist der Inhalt? Oder glaubst du, dass ich auf so einen Link klicke?
this post was submitted on 28 Mar 2024
0 points (NaN% liked)
DACH - jetzt auf feddit.org
8711 readers
1 users here now
Diese Community wird zum 01.07 auf read-only gestellt. Durch die anhäufenden IT-Probleme und der fehlende Support wechseln wir als Community auf www.feddit.org/c/dach - Ihr seid herzlich eingeladen auch dort weiter zu diskutieren!
Das Sammelbecken auf feddit für alle Deutschsprechenden aus Deutschland, Österreich, Schweiz, Liechtenstein, Luxemburg und die zwei Belgier. Außerdem natürlich alle anderen deutschprechenden Länderteile der Welt.
Für länderspezifische Themen könnt ihr euch in folgenden Communities austauschen:
Eine ausführliche Sidebar findet ihr hier: Infothread: Regeln, Feedback & sonstige Infos
Auch hier gelten die Serverregeln von https://feddit.de !
Banner: SirSamuelVimes
founded 1 year ago
MODERATORS
Jemand hat ein lustiges KI "deepfake" Video mit Karl Lauterbach gemacht, in dem er Markus Söder herausfordert. Der echte Lauterbach findet es anscheinend selbst lustig, fragt sich aber wo es langfristig hin führt, wenn sowas qualitativ deutlich besser wird. "Opfer" im Titel dieses Pfostens sollte in Anführungszeichen gesetzt werden.
Danke für den Lacher am Morgen.
"ne Schale Nägel zum Frühstück, ohne Salz" -- nicht schlecht.
Wann fangen wir endlich an echte Videos zu signieren?
Zum Schutz vor sowas gibt es HTTPS. Der einzige Vorteil Dateien zu signieren wäre, wenn man will, dass die geteilt werden. Wenn ich mir ansehe, wie die Leute zu Datenschutz und Urheberrecht stehen, ist es den meisten wohl sowieso lieber, wenn das nicht passiert.
ETA: Ich bin mir mal wieder nicht sicher, warum ich hier runter gewählt werde. Vielleicht, weil es zu knapp war? Ich habe mal versucht, ausführlicher zu erklären, worum es hier geht, damit es zugänglicher ist. -> https://feddit.de/comment/8722881
HTTPS hat nichts mit dem Schutz gegen Deepfakes zu tun. Das ist nur für den Übertragungsweg von Daten. Wenn man das Deepfake statt auf der echten Website einfach zum Beispiel auf irgendeinem TikTokkanal verbreitet, dann kommt das auch per HTTPS zum Benutzer. Ist aber trotzdem ein Deepfake.
Ich glaube, ich verstehe nicht, was du hier sagen willst. Jedenfalls schließe ich das aus den Hoch- und Runterwähls.
HTTPS (bzw Digicert Inc im Fall von TikTok) macht glaubwürdig, dass die Daten von TikTok kommen. TikTok sagt dir von welchem Account sie kommen, oder?
Mir ist nicht so ganz klar, was noch sein muss. Gut, du willst versichert werden, dass etwas kein Deepfake ist. Aber wie soll das gehen, wenn es nicht reicht, dass jemand bürgt?
Ganz einfach. Jemand, der etwas veröffentlicht, signiert es. Zum Beispiel über die SSL Zertifikatsinfrastruktur oder so. Dann wissen alle, dass es wirklich von ihm kam. Dann kann man die Datei beliebig teilen und verteilen.
Aber normalerweise wollen die Leute ja, dass die Klicks zu ihrem Kanal/Seite kommen und eben nicht, dass die Dateien anderswo verbreitet werden. Die Leute wollen überwiegend kontrollieren, wer, wann, wie Zugriff auf "ihre" Daten hat. Genau darauf habe ich ja zuerst hingewiesen.
Ich weiß auch nicht, was damit gewonnen wäre. In einem Fall sagt dir TikTok, von welchem Account etwas kommt. Im anderen Fall eine Zertifizierungsstelle.
Man kann das ja wollen. Aber im Beispiel ist das Video ja auf Twitter geteilt worden. Und Lauterbachs hat mit seinem Namen gesagt: ist lustig, aber ein Fake. Diese Information ist jetzt aber nur da weil ich Twitter vertraue das die das schon geprobt haben. Wenn ich das auf Mastodon, peertube, Lemmy sehe, dann kann das ja auch echt sein, aber mein Client kann mir das nicht nachweisen über eine Signatur.
Ich bin also immer auf die Ehrlichkeit der Plattform angewiesen.
Eine Signatur kann diese Kontrolle von der Plattform zurück zu lauterbach geben. Das ist die mächtigkeit so einer Lösung.
Na klar müssen alle Programme das nach und nach implementieren. Aber notwendig ist es daher trotzdem.
Ich verstehe schon gar nicht, wie das funktionieren soll. Geschweige denn, dass es notwendig ist.
Ich beobachte, dass die meisten Leute die Kontrolle über "ihre Daten" behalten wollen. Warum sollten die es praktischer machen wollen, dass "ihre Daten" kopiert und geteilt werden?
Bei der Signatur bist du auf die Ehrlichkeit der Zertifizierungsstelle angewiesen.
Der Bundestag hat Seiten für seine Mitglieder. Die verlinken dort ihre SocMed Kanäle. Man könnte dort auch Zertifikate oder Public Keys verteilen. Das gibt aber nur Sinn, wenn die Leute auch wollen, dass ihre Videos, usw per Filesharing verteilt werden. DH sie also keine Kontrolle mehr über die Verteilung haben. Es ist ein Abgeben von Kontrolle und kein Zurückholen.
Ich glaub das wir da eine andere prämisse haben. Ich glaube das man gar keine Wahl hat als anzuerkennen, dass halt superviel über andere Kanäle als ursprünglich veröffentlicht abgeholt wird. Denk doch nur an die time Maschine des Internet archives.
Wenn man Signaturen in die Metadaten der Dateien rein tut, dann bleiben die erhalten wenn man sich nicht Mühe gibt die wegzumachen.
Und man kann zwar zertifizierungsstellen vertrauen und das Problem so lösen, aber man muss nicht. Auch ein selbst-, oder gruppensigniertes Zertifikat kann voll ausreichend sein.
Ich glaube nicht, dass wir wirklich unterschiedliche Prämissen haben. Du willst, dass die Content-Macher ihr Zeug signieren, damit du es teilen kannst.
Ich sage, die Content-Macher wollen das nicht. Ich glaube, wir reden aneinander vorbei, weil du dich nicht damit auseinandersetzt, was die Entscheider wollen. Die einzige Chance für so ein System wäre als DRM.
Denk doch nur an die time Maschine des Internet archives.
Das Internet Archive ist nach deutschem Recht (und EU-Recht, wenn ich nicht irre) natürlich illegal. Man kann also durchaus anders als irgendwas anerkennen.
Zum Technischen:
Wenn du den Schlüssel persönlich überreichen kannst, dann brauchst du die Signatur normal nicht.
Ein Problem ist, dass Schlüssel geklaut oder verkauft werden können. Auch können sich die Interessen des Besitzers ändern, sodass er nicht mehr glaubwürdig ist. Deswegen haben Zertifikate nur eine zeitlich begrenzte Gültigkeit. Wenn eine Datei langfristig archiviert wird, und man dem Archiv nicht traut, dann ist auch eine Signatur nur eingeschränkt aussagekräftig. Abhilfe wäre hier, dass eine Zertifizierungsstelle Hashes von registrierten Dateien speichert. Das Zertifikat könnte dann erneuert werden (was dann allerdings nicht unbedingt nötig ist). Wahrscheinlich gibt es sowas schon, nur eben als DRM-System.
Bitte versteh mich nicht falsch, ich glaube schon das ich verstehe was du sagen willst.
Der content Macher hat ein Interesse an einer bestimmten Plattform, sagen wir mal Twitter. Da hat er sich das grüne (oder welche Farbe Elon gerade verkauft) Häkchen gekauft und das erfüllt für ihn die Signaturaufgabe.
Klar ist das bequem, aber halt nicht mehr ausreichend für die Gesellschaft in der wir leben. Auch wenn kein Mensch es gerne hat oder Lust darauf hat, brauchen wir als Gesellschaft langfristig den Marker das eine Datei ‚echt‘, ‚intendiert‘, oder eine große Menge weiterer Eigenschaften ist. Und weil halt keine Plattform nur für sich existiert, halt auch als standardisiertes Metadatenformat.
Anders könne wir (und auch Zeitungen) langfristig nicht mit rein KI generierten Inhalten umgehen. IMO ist das also nur eine Zeitfrage. Oder wir gewöhnen uns halt an eine Postfaktische Gesellschaft.
Alte Signaturen halte ich hier nicht für das Problem. Es wird ja nur signiert, das zu einem bestimmten Zeitpunkt eine Eigenschaft gültig war. Eine neu Signierung später ist nur notwendig wenn sich die vorher signierte Eigenschaft ändert. Das ein Schlüssel später zurück gezogen wurde und aus welchem Grund (Schlüsselverlust, Rotation,…) ist letztlich für die Bewertung der signierten Information relevant und sollte angezeigt werden.
Der content Macher hat ein Interesse an einer bestimmten Plattform, sagen wir mal Twitter. Da hat er sich das grüne (oder welche Farbe Elon gerade verkauft) Häkchen gekauft und das erfüllt für ihn die Signaturaufgabe.
Lauterbach hat einen grauen Haken, mit dem Twitter ihn als Amtsträger ausweist. Erkenne das Problem für deinen Vorschlag: Eine Signatur hilft null. Twitter ist riesig und man kann das innerhalb von Minuten nachschlagen. Die Signatur von irgendeinem Max Mustermann ist ohne Aussagekraft.
Alte Signaturen halte ich hier nicht für das Problem. Es wird ja nur signiert, das zu einem bestimmten Zeitpunkt eine Eigenschaft gültig war.
Und woher kennst du den Zeitpunkt? Genau, der wird mitsigniert. Wenn die Signatur nicht mehr vertrauenswürdig ist, dann ist der Zeitpunkt nicht bekannt.
Allgemeiner ist das Problem: Die Leute wissen nicht, was so eine Signatur aussagt. Mit einer Signatur kann jemand für die Richtigkeit von Angaben bürgen. Es bestätigt aber nicht die Wahrheit der Angaben.
Klar ist das bequem, aber halt nicht mehr ausreichend für die Gesellschaft in der wir leben. Auch wenn kein Mensch es gerne hat oder Lust darauf hat, brauchen wir als Gesellschaft langfristig den Marker das eine Datei ‚echt‘, ‚intendiert‘, oder eine große Menge weiterer Eigenschaften ist. Und weil halt keine Plattform nur für sich existiert, halt auch als standardisiertes Metadatenformat.
Anders könne wir (und auch Zeitungen) langfristig nicht mit rein KI generierten Inhalten umgehen. IMO ist das also nur eine Zeitfrage. Oder wir gewöhnen uns halt an eine Postfaktische Gesellschaft.
Wer die Geschichte nicht kennt, ist verdammt, sie wiederholen.
Seit der Einführung der Druckerpresse, versucht man, diese zu kontrollieren. Man erlaubt zB nur besonders geprüften Leuten eine zu besitzen. Man verlangt, dass Schriften vor dem Druck gelesen und genehmigt werden. Man will ja nicht, dass irgendwelche bösartigen Lügen über Gott und den König verbreitet werden.
Pressefreiheit heißt ursprünglich, dass sowas nicht gemacht wird. In der US-Verfassung ist Rede- und Pressefreiheit noch in einem Satz genannt. Es ging nicht um Journalismus, sondern darum das eigene Wort in die Welt zu bringen.
Die Staaten, in denen die Pressefreiheit eingeschränkt ist, waren und sind irgendwie diejenigen, in denen man schwerer an "echte" Daten kommt. Obwohl Experten da ganz besonders drauf achten, dass nichts Falsches veröffentlicht wird. Komisch, nicht?
Heute wird Pressefreiheit oft rein auf Reporter bezogen. Reporter sind Leute, die sich mit etwas beschäftigen und dann reportieren, also Bericht erstatten. Woher wusste man früher, ob das wahr ist, was die sagen? Wenn jetzt eine "Postfaktische Gesellschaft" beginnt, dann muss das damals ja die "Faktische Gesellschaft" gewesen sein.
Die Antwort ist einfach: Der Reporter bürgt für seinen Bericht. Und die Zeitung bürgt für ihren Reporter. Du wirst kein historisches Ereignis finden, bei dem "echte" Fotos oder Videos der breiten Bevölkerung den unmittelbaren Zugriff auf die Fakten ermöglicht haben.
Ja, und?
Zum Schutz vor sowas gibt es HTTPS.
Meinst du mit "sowas" etwa nicht Deepfakes?
Fakes im Allgemeinen, also auch Deepfakes.
Vielleicht ist das eine Alterssache. Ich weiß nicht, wie man TikTok benutzt, um sich zu informieren. Wenn ich etwas lese, dann achte ich zuerst darauf, ob es aus einer glaubwürdigen Quelle kommt. Also ob den Schreibenden an ihrer Glaubwürdigkeit liegt und ob sie die nötige Sachkenntnis haben. ZB Ein kantiges Zitat vom Lauterbach würde ich nur als echt akzeptieren, wenn es in den seriösen Nachrichtenmedien oder einem offiziellen Account veröffentlicht wurde.
und wie soll das funktionieren?
Bspw. ganz einfach, wie man das schon seit 30 Jahren macht.
Es gibt zwei Möglichkeiten das Problen der Authentizität anzugehen: (1) AI Material zu kennzeichnen oder (2) die Vertrauenswürdigkeit von "echtem" Material sicherzustellen.
Ersteres ist ein Rennen, was man nicht gewinnen kann (und darüber hinaus ein ressourcenintensives und langwieriges Unterfangen).*
Letzteres ist seit der Steinzeit etablierte Software, die die Authentizitätsfrage in einer Vertrauensfrage umwandelt, also zu anderer / gewohnter Stelle verschiebt: Ein Video ist bspw. von Lauterbach signiert, d.h. ich kann sicher sein, dass es von ihm stammt. Ich habe die Frage der Authentizität umgewandelt in die Frage, ob ich Lauterbach traue.
Beides zusammen wäre natürlich noch besser. Der Punkt von @dwt ist m. E. jedoch, dass Signaturen lange lange schon existent und ressourcentechnisch quasi kostenlos sind und man sich einem Haufen der aktuellen Probleme (wie diesem) ganz einfach entledigen könnte. Alles dafür ist schon lange da, wird jedoch medientechnisch nicht genutzt.
* Das ist keinesfalls nutzlos, da ich ja immer noch mit der Vertrauensfrage dastehe.
Jo, für statische Dateien. Auch für streams auf Youtube, Twitter, Mastodon?
Logisch, es kann ja hier signiert werden, dass der Livestream von einer bestimmten Person veranstaltet wird.
Alles andere sind ja nur veröffentlichungsschnipsel, alle die kann man signieren.
Man könnte abschnittsweise signieren. Weiß nicht, ob es das schon gibt.
Es ist aber nicht so unbedingt nötig. Es gibt ja schon HTTPS.
HTTPS garantiert dir aber nur, dass der Transport sicher erfolgte. Nicht hingegen, ob die Quelle vertrauenswürdig ist.
Du kannst doch das Zertifikat der Quelle prüfen?
Naja toll, dann weiß ich "ok, is Twitch/YouTube/whatever", aber noch nicht, dass der, der das da ausstrahlt, wirklich der ist, der er vorgibt, zu sein.
Hm, ja, gut, das ist jetzt vielleicht ein bisschen besserwisserisch, aber man kann sowas ja auf seinem eigenen Server nochmal hosten. Man muss nicht auf Youtube sein. Oder auf seinem eigenen Server eine Reihe von Links halten die man damit als "echt" bestätigt.
Mir gings aber eigentlich nur darum, dass https nicht nur dafür sorgt, dass der Verkehr sicher war, sondern auch dafür, dass du wissen kannst mit wem du genau kommunizierst.
Also video streaming ohne ein CDN zu machen, vor allem als Politiker, der ein ganzes Land erreichen will, ist aber etwas ... weit aus dem Fenster gelehnt. Video-Streaming performant hinzukriegen ist absolut nicht trivial. Da würde ich schon zu einem etablierten Anbieter greifen.
Das Ding als Beispiel hat in drei Tagen ca 600k views erhalten. Auf der Scale geht das alles noch wunderbar. Kompliziert wirds erst wenn du Videos zu vielen Leuten gleichzeitig bekommen willst, und das kommt halt erst in den kritischen Bereich wenn es um mehrere (viele!) Videos geht. So viele Menschen interessieren sich nicht gleichzeitig für die echten Videos von Politikern.
Aber wie gesagt, das war eigentlich gar nicht mein Punkt, sondern das hier:
Mir gings aber eigentlich nur darum, dass https nicht nur dafür sorgt, dass der Verkehr sicher war, sondern auch dafür, dass du wissen kannst mit wem du genau kommunizierst.
Und der Punkt ist immernoch in den meisten Fällen quatsch, weil das nur für Peer-to-Peer-Verbindungen zutreffen würde. Ansonsten hast du halt einen Mittelsmann (Server). Du weißt also idR nur, wer den Server betreibt (wenn überhaupt; Let's Encrypt sagt dir nichtmal das). Ob der auch für den Inhalt verantwortlich ist, weißt du nicht. HTTPS ersetzt keine Signaturen.
Das liegt aber dann an deinem Einsatz von HTTPS und nicht an HTTPS selber. HTTPS könntest du so verwenden, dass du dir sicher bist mit wem du kommunizierst.
Normalerweise würde der Account von einer vertrauenswürdigen Seite verlinkt, zB vom Bundestag im Fall von Lauterbach. Bei einer Signatur im Stream müsstest du den Schlüssel auch von irgendeiner vertrauenswürdigen Quelle holen. DH, da gewinnst du nix.
Man könnte auch Twitch/usw zwingen, die Identitäten der Streamer zu überprüfen und wie ein Impressum zu veröffentlichen. Ich halte das für ziemlich übergriffig und gefährlich, aber wenn der Accountname keine hinreichende Identität ist, dann geht's nicht mit weniger.
ob die Quelle vertrauenswürdig ist
Tja, da wird's philosophisch.
Menschen wie Lauterbach haben ein public private schlüsselpaar. Alles von dem er will, dass du und ich nachvollziehen kann, dass er denkt, dass es echt ist, kann er mit seinem privaten Schlüssel signieren, und du (oder besser deine Clients) können das über seinen öffentlichen Schlüssel prüfen und entsprechend darstellen.
Awesome, dann kann ich alles mögliche sagen und wenn mich jemand dabei filmt, einfach nicht signieren und der Videobeweis zählt plötzlich als Deepfake..?
Nope, der Beweis zählt dann als nicht von dir freiwillig ale echt eingestuft. $jemand muss dann einen anderen Weg finden die Echtheit zu zeigen. Z.b. indem er selbst signiert und damit sagt, das s er mit seinem Namen dafür steht das das Video echt ist.
dann kann ich alles mögliche sagen
Ist das ein großes Problem?
Wenn dich jemand beim Scheißelabern filmt und das Video im Internet landet, bist du in der Regel eh nicht die Person, die es hochläd. ;)
Vielleicht sollte man dazu anmerken: In Deutschland ist das schnell strafbar.
(1) Mit Freiheitsstrafe bis zu drei Jahren oder mit Geldstrafe wird bestraft, wer unbefugt
- das nichtöffentlich gesprochene Wort eines anderen auf einen Tonträger aufnimmt oder
- eine so hergestellte Aufnahme gebraucht oder einem Dritten zugänglich macht.
https://www.gesetze-im-internet.de/stgb/__201.html
Datenschutz ist dann nochmal was anderes.
Ein bisschen ausführlicher, warum es da keine Nachfrage gibt (und es auch nicht sinnvoll ist):
Es gibt schon HTTPS, um sicherzustellen, dass man mit der korrekten Seite kommuniziert. Grundlage sind die hier erwähnten Public-Key Verfahren, aber das kann nachschlagen, wer will.
Wahrscheinlich sind den Meisten schon Fehlermeldungen von abgelaufenen Zertifikaten begegnet. Ein Zertifikat ist eine Datei, in der wichtige Angaben stehen, wie zB der öffentliche Schlüssel einer Domain. Das ist notwendig für HTTPS. Diese Datei wird von einer Zertifizierungsstelle signiert und damit zum Zertifikat. Welchen Stellen man vertrauen kann, ist in den Browsern schon eingestellt, wenn man sie herunterlädt.
Die Zertifizierungsstelle bürgt praktisch für das, was in einem Zertifikat drinsteht. Das Zertifikat von Feddit.de ist zB von Let's Encrypt.
Bei Software, also Apps und Treiber, arbeitet man mit demselben Prinzip. Ausführbare Dateien werden signiert.
Wenn man Videos, etc signieren wollte, würde man nach demselben Prinzip arbeiten. Jemand registriert sich bei einer Zertifizierungsstelle und benutzt dann das Zertifikat, um Dateien zu signieren.
Es natürlich unnötig die Datei zu signieren/zertifizieren, wenn die Domain/der Server schon zertifiziert ist. Das heißt, es ist nur nötig, wenn man will, dass die Datei anderswo geteilt wird. ZB per Torrent, oder auf andere Server hochgeladen. Die Meisten wollen das aber wohl nicht. Die wollen, dass die Leute zu ihrem Kanal/ihrer Seite kommen. Es ist auch normalerweise illegal wg Urheberrecht und Datenschutz.
Es ist auch nicht besonders hilfreich. Man muss ja immer noch darauf achten, wer signiert hat. Normalerweise wird so ein Lauterbach-Video von einem Nachrichtenkanal aufgenommen und verbreitet. Die Leute müssen dann immer noch entscheiden, wer glaubwürdig ist. Etwa die ARD oder der fliegende Reichsreporter.
Sehe ich genau anders. Wenn ich mit Telegramm kommuniziere ist das ziemlich sicher mit https geschützt. Aber es fehlt eine Möglichkeit, das ich ein Video oder link dort so teilen kann, das die Information ‚lauterbach steht mit seinem Namen dafür das das echt ist‘ irgendwie mit transportieren kann.
Wie gesagt, wer auch immer das Interview geführt hat, das du teilen willst, will wahrscheinlich nicht, dass du es teilst. Der wird das eher als Urheberrechtsverletzung sehen.
Das ist falsch bzw. am Thema vorbei. HTTPS sichert dir die Kommunikation zu Twitter aber bzgl. fake-Accounts auf Twitter bringt das nichts.
Was ist daran falsch?
Für die Accounts auf Twitter ist Twitter die Zertifizierungsstelle. Wenn du Twitter nicht automatisch glaubst, kannst du drüber nachdenken, ob eine andere Stelle automatisch besser ist.
Ist also Maggus' Ankündigung des Gender:innenverbots in Bayern auch ein Aprilscherz? Oder ist es Bär:innenernst?
Wenn Sie ... vom Hauptbahnhof in München ... mit zehn Minuten, ohne, dass Sie beim Dealer noch einchecken müssen, dann starten Sie im Grunde genommen am Flughafen ... am ... am Hauptbahnhof in München starten Sie Ihren Trip. Zehn Minuten. Schauen Sie sich mal die großen Flughäfen an, wenn Sie in Heathrow in London oder sonst wo, meine se ... Charles de Gaulle äh in Frankreich oder in ...äh... in ... in...äh...in Rom.
Wenn Sie sich mal die Entfernungen ansehen, wenn Sie Frankfurt sich ansehen, dann werden Sie feststellen, dass zehn Minuten... Sie jederzeit locker in Frankfurt brauchen, um ihren Dealer zu finden. Wenn Sie vom Flug ... vom ... vom Hauptbahnhof starten - Sie steigen in den Hauptbahnhof ein, Sie fahren mit den Drogen in zehn Minuten an den Flughafen in ... an den Flughafen Franz Josef Strauß.
Dann starten Sie praktisch hier am Hauptbahnhof in München. Das bedeutet natürlich, dass der Hauptbahnhof im Grunde genommen näher an Bayern ... an die bayerischen Städte heranwächst, weil das ja klar ist, weil auf dem Hauptbahnhof viele Koks-Linien aus Bayern zusammenlaufen."
Uff. Frankfurter Hauptbahnhof geht unter die Gürtellinie. Das wünscht man niemandem.
Nürnberg, der zu den Top 3 der gefährlichsten Bahnhöfe Deutschlands gehört: bin ich ein Witz für dich?
Nun, irgendwie klingt das auch nach einem touristischen Erlebnis für Menschen, die Destinationen fernab der Mainstream-Bucketlists suchen. Kostenlose Übernachtung ist dort sicher auch möglich und gibt extra Abenteuerpunkte.
view more: next ›