KI - Testen wir dies einmal

[Dauwing]

hier ein schönes Beispiel, wo sich die ki einfach weigert,
weiter, als Zeile 1 auf einem handschriftlichen Zettel zu lesen.

19.45 Minute
https://www.youtube.com/watch?v=iflTQFn0jx4

welche Routinen wären wünschenswert ?
- möchtest Du, das für den Erkennungsprozess 1 Minute Zeit aufgewendet wird.

... so würde zumindestens ein Mathematiker denken

[phimax]

Chinas nächster KI Konkurrent
https://www.heise.de/news/Alibaba-veroe ... 96691.html

[Dauwing]

an die Töne werden wir uns gewöhnen müssen,

unser Handy wird statt unserer selbst mit dem Gegenüber kommunizieren,

- weil es schneller geht,
- weil Konditionen genauer und schneller abgeklärt werden,
- weil die menschliche Kommunikation ein Auslaufmodel sein wird


https://www.youtube.com/watch?v=EtNagNezo8w

[Dauwing]

What is the AI Act in the EU?

The AI Act is the first-ever legal framework on AI, which addresses the risks of AI and positions Europe to play a leading role globally. The AI Act (Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence)is the first-ever comprehensive legal framework on AI worldwide.

What is the EU AI Act February 2025?
The AI Act introduces a comprehensive legal framework for companies dealing with AI systems in the EU. From 2 February 2025, companies subject to the regulation must take steps to ensure AI literacy and ensure that no prohibited AI practices are used

Wo wird KI in der Verwaltung eingesetzt?
In der Verwaltung kann der Einsatz von KI helfen, Verwaltungsabläufe effizienter zu gestalten, zur Arbeitsentlastung beizutragen und die Kommunikation mit den Bürgerinnen und Bürgern zu verbessern.

Wo kann KI nicht eingesetzt werden?
Autonome Waffensysteme, sogenannte Killerroboter, verletzen das Unschuldsprinzip. Wenn solch fundamentale Rechtsprinzipien verletzt werden, sollte KI nicht eingesetzt werden, selbst wenn die Entscheidungen zu 99,99 Prozent richtig wären – was sie nicht sind.

das Unschuldsprinzip
in der Realität hatte die alte Welt ein hohes Gewicht auf das Unschuldsprinzip gelegt.
Das Unschuldsprinzip, oder auch prima facie Beweis genannt, - der Beweis des ersten Anscheins,

darf nur in einem Fall von abgewichen werden,

wenn begründete Zweifel bestehen, den Beweis des ersten Anscheines nicht umzusetzen,
und deshalb den Strengebeweis zu fordern,
wo der Betroffende seine Unschuld beweisen muss.

Diese Beweislastumkehr darf nur stattfinden, wenn es eindeutig erwiesen ist, dass durch erhebliches Fehlverhalten die Person
den ihm zustehenden Beweis des erstens Anscheins verwirkt hat.

Wo ist nun das Problem beim Einsatz von Ki in der Verwaltung ?

Die Ki wurde in den meisten Fällen so trainiert,
dass versteckte unethische Routinen vorhanden sind,
die in die Arbeitsabläufe hinein kommen,

das also Behörden und Verwaltungen sogenannte "Unterlagenanforderungen" immer wieder stellen,
um Bearbeitungszeiten in die Länge zu ziehen,
und deshalb auch "unnötige" Dokumente anfordern ( die dem Bürger unterstellen, das er lügt ).

Das Problem bei den Ki generierten Antwortschreiben sind zudem noch weitere unethische Routinen,
um zB. die Ansprüche eines Landschaftsgärtners beim Sozialamt abzuwehren.

Wer von der Stadtverwaltung nur als Saisonarbeiter gebraucht wird, und sich deshalb zu jeder Winterzeit beim Amt melden muss,
oder ergänzende Sozialhilfe wegen seines geringen Arbeitslohns benötigt,

der wird nun in Kontakt mit Ki generierter Verwaltung kommen,
die als versteckte unethische Routine die generelle Anspruchsabwehr aktiviert hat,

und wird erstaunt sein, warum monatelang emails zum grossen Teil ignoriert werden,
dann aber, wenn der behördlich festgesetzte Bearbeitungszeitraum sich dem Ende nähert,
plötzlich eine seitenlange "Unterlagenanforderung" kommt,
die all die "ignorierten email-Punkte" plötzlich berücksichtigt,
aber durch seine Unstrukturiertheit und in seiner Masse,
beim Empfänger im Gehirn einen "Data-overflow" auslösst.

Obwohl der Städtetag mittlerweile weiss,
dass gerade bei labilen und behinderten Menschen,
wie Kinder, die durch die Trinksucht der Mutter, von Geburt an,
schwere Hirnschäden hatten,
das eben solche Menschen bei dem Empfang solcher Sozialamts-Ki-Schreiben,
einfach überfordert sind,
und ein kleiner Teil davon "durchdrehen" wird,
werden solche behördliche ki-Antwortstechniken dennoch billigend in Kauf genommen,
weil viele Städte schlichtweg pleite sind.

Nun wird zwar nicht jeder Betroffende mit seinem Wagen in eine Menschenmenge in der Innenstadt rasen,
doch die Analysen haben gezeigt,
dass solche. -oft im home-office erstellten behördliche Anwortschreiben weiter eingesetzt werden.

(deshalb in Fussgängerzonen ohne Pollerschutz immer am Rand,
nahe Hauswand und Eingängen, gehen, ... denn es geht weiter)

[Dauwing]

Sich mühsam durch Google-Ergebnisseiten zu kämpfen, könnte bald eine in Vergessenheit geratene Kulturtechnik sein: Seit heute liefert die Suchmaschine auch deutschen Nutzern eine KI-gestützte Zusammenfassung der Antworten.

Die Google-Suche wird künftig auch in Europa bei bestimmten Anfragen einen zusammenfassenden Text als Antwort liefern, der von einer KI verfasst wurde. Am frühen Mittwochmorgen wurde dazu die Funktion "Übersicht mit KI" ("AI Overview") in Deutschland, sieben weiteren EU-Staaten und in der Schweiz freigeschaltet.

Die KI-Zusammenfassungen erscheinen oberhalb der bislang gewohnten Liste mit Links zu weiterführenden Websites. Sie sollen eine schnelle und bequeme Möglichkeit bieten, Informationen zu erhalten, ohne sich durch mehrere Websites klicken zu müssen.

Wer künftig etwa Google fragt, wie man einen eingelaufenen Wollpullover retten kann, bekommt nicht mehr zuerst eine Linkliste zu Ratgeber-Websites als Antwort geliefert. Stattdessen erscheint oben ein Text, in dem knapp beschrieben wird, wie man den zu heiß gewaschenen Pullover mit Essigwasser und anderen Methoden wieder in Form bringen kann.

Um die "Übersicht mit KI" zu erhalten, müssen die Anwender in ihrem Google-Konto eingeloggt und volljährig sein. Bis die Anwenderinnen und Anwender die neue Funktion zu Gesicht bekommen, kann es von Fall zu Fall noch einige Tage dauern, weil Google aus technischen Gründen größere Änderungen nicht auf allen Servern gleichzeitig scharf schaltet.

Google von anderen KI-Anbietern unter Druck gesetzt
Eine "Übersicht mit KI" wird nach Angaben von Google immer dann ausgespielt, "wenn unsere Systeme feststellen, dass es die hilfreichste Antwort ist". Nach ersten Erfahrungen aus dem Betrieb in den USA sei dies bei ungefähr jeder fünften Google-Suche der Fall, ergab eine Auswertung der Plattform SE Ranking.

Google hatte die "AI Overviews" im vergangenen Mai auf seiner Entwicklermesse Google I/O vorgestellt und danach zunächst für alle Nutzerinnen und Nutzer in den USA freigeschaltet. Mittlerweile sind die KI-Zusammenfassungen in über hundert Ländern verfügbar.

https://www.n-tv.de/technik/Google-lief ... 58109.html

Nehmen wir an, Du stellst bei Dir eine Suchanfrage mit einem juristischen Hintergrund,

und bekommst durch die ki basierte Zusammenfassung eine Antwort,

die falsch ist.

Eine Zusammenfassung der Suchergebnisse bedeutet in diesem Fall,

weil aktuelle Suchergebnisse eine Abweichung, der überwiegend einhelligen älteren Suchergebnisse darstellen,

werden Sie als Abweichungen ignoriert werden, weil sie der einhelligen Zusammenfassung widersprechen.

Was ist passiert ?

Es gab ein neues Gerichtsurteil, was alles verändert hat,
alle überwiegend älteren Suchergebnisse sind outdatet, überholt, und damit falsch,
nur das aktuelle Gerichtsurteil, und die deshalb kaum exsistierende Kommentierung der Fachautoren ist relevant.

Genau da liegt das Hauptproblem der ki - die Gewichtung der Relevanz der Quellen.
Abhilfe kann hier nur ein verbesserter Algorythmus schaffen, der die Wertigkeit der Suchergebnis-Quellen bewertet,
und dabei bei juristischen Fragen,

die nicht auf eine niedergelegte Gesetzgebung, sondern auf eine dynamische Rechtssprechung basieren,

als erstes auf die eigene Fehlerhaftigkeit bei der Zusammenfassung hinweisst.

Die abschliessende Wertung des mündigen Nutzers lautet deshalb nicht,

das die Ki potentielle Fake-news zu manchen Themen verbreitet,

sondern das die Welt mit unausgereiften Algorythmen konfrontiert wird,
wo man als erstes ausschliessen muss, das es keine "Irrlichter" sind,

und das ist weiterhin nur durch die altmodische Suche möglich,
nämlich im durchforsten aller Suchergebnisse und in der Auswertung der aktuellen Relevanz.

Das betrifft natürlich nicht nur juristische Themen,

( wo die ki hoffentlich bei den Quellen in deutscher Sprache unterscheiden kann, was deutsches Recht ist, was österreichisches Recht ist, was schweizer Recht ist pp)

sondern auch technische,

wenn die Frage nach einer Bios Konfiguration eines Motherboardes zB. nicht korrekterweise fragt,
- bei Sockel 1150 sieht es so aus,
bei Sockel AM4 sieht es so aus,
- bei Prozessoren ohne integriertem Grafikchip nur bei gleichzeitigen Einsatz einer Grafikkarte möglich,
- bei Prozessoren mit integrierten Grafikchip sieht es so aus ...

Das Beispiel zeigt, nur eine qualifizierte Antwort ist weiterführend, eine auf wenige Zeilen begrenzte Zusammenfassung führt wieder zu Irrwegen.

Deshalb schützt Euch vor fehlgeleiteten Zusammenfassungen,
indem ihr bei wichtigen Fragen den Zusammenfassungen nicht vertraut,
sondern vergewissert Euch durch die alte Suche nach den wertigen Quellen ausschliesslich auf die relevanten Suchergebnisse.

[Adi]

Wie man schon seit Jahren sagt: A Fool with a Tool is still a Fool.

Nehmen wir an, Du stellst bei Dir eine Suchanfrage mit einem juristischen Hintergrund,

Anstelle von einfach nur Angst haben, könnte man ja auch lernen mit den Tool umzugehen
Für Recherchen setz man daher Tools ein die Quellen mitliefern, die man vor der Verwendung der Antwort auch prüft.
Für juristische Recherchen gibt es mittlerweile auch AI Lösungen die dafür spezialisiert sind.

[phimax]

Deshalb schützt Euch vor fehlgeleiteten Zusammenfassungen,
indem ihr bei wichtigen Fragen den Zusammenfassungen nicht vertraut,
sondern vergewissert Euch durch die alte Suche nach den wertigen Quellen ausschliesslich auf die relevanten Suchergebnisse.

Guter Hinweis, nur du glaubst doch nicht ernsthaft das Menschen
die nur auf die Seite 1 Ergebnisse einer Google Suche vertrauen
eine KI-Antwort in Frage stellen, oder?

[Dauwing]

ja, das ist eben der Unterschied zwischen erfahrenden Usern,
die den Begriff - reliable source - begriffen haben,

und den users, die sich mit digitalen Eintopf-Zusammenfassungen als Ergebniss abspeisen lassen.

Man kann nur hoffen, das auch die irgendwann lernen, eine Ki zu hinterfragen.

[ZH-thai-fun]

die sich mit digitalen Eintopf-Zusammenfassungen als Ergebniss abspeisen lassen. Man kann nur hoffen, das auch die irgendwann lernen, eine Ki zu hinterfragen.

... Ich liebe "Eintopf". Am liebsten wenn es auch alles von rund um den Tellerrand und dem Globus beinhalten. Aber in meinem Alter muss ich mir doch die Zeit nehmen können, mein Brosamen und Zutaten im Topf wie Rosinen herauspicken zu können und nicht mehr alles herunterschlingen zu müssen.
Das überlasse ich denen die KI produzierten Eintopf der Menschheit noch haargenau erklären wollen. Warum muss man den bei einem "Eintopf" noch die 1001 Aromen, oder die X-möglichen Zutaten herausfinden?

[Michaleo]

Ich habe jetzt auch so ein Button für KI auf meinem Messenger, und habe den gefragt, ob er mir etwas zeichnen kann, das konnte er nicht. Weil ich immer noch ganz verliebt in den Blick aus dem Flugzeugfenster bin, habe ich etwas über das Hindukuschgebirge gefragt. Die Antwort kam wie aus dem Pfeil geschossen, und als ich höflich "Merci" schrieb, antwortete er ganz adäquat mit "de rien"

IMG_20250405_091921.jpg (110.21 KiB) 264 mal betrachtet