Ich denke, auf #KI im Recht blicken wir derzeit falsch und, dass sie sich extrem schnell durchsetzen wird, aber nicht in Spruchkörpern.
-
@AwetTesfaiesus Sorry, wird ein Thread - ich möchte nach Lesen der diversen Diskussionen mal 3 Aspekte einwerfen, die über "KI macht das schon, anders geht's nicht" und "KI wird uns alle umbringen" hinausgehen.
Mein Background:
40 Jahre IT, primär an der Nahtstelle zwischen den Anforderern ("Fachbereich") und den Hardcore-ITlern ("Entwicklung").
Wenig hands-on Erfahrung mit IT, aber folge interessiert den Diskussionen um Konzepte, Möglichkeiten, Fallstricke.
Keine Erfahrung in Juristerei.
1/X@AwetTesfaiesus Aspekt 1: Menschen sind gaaaanz schlecht darin, die Ergebnisse der IT in Frage zu stellen!
Fehler passieren und werden weiter passieren (ist ja schon diskutiert worden). Leider ist die Reaktion (nach einer eher skeptischen Anlaufzeit) auf "hat die IT gesagt" aber eine ganz andere, als wenn man sieht, dass Kolleg:in IchÜbeNochBinFrisch oder BinHäufigUnkonzentriert den Vorgang bearbeitet hat.
2/X -
@AwetTesfaiesus Aspekt 1: Menschen sind gaaaanz schlecht darin, die Ergebnisse der IT in Frage zu stellen!
Fehler passieren und werden weiter passieren (ist ja schon diskutiert worden). Leider ist die Reaktion (nach einer eher skeptischen Anlaufzeit) auf "hat die IT gesagt" aber eine ganz andere, als wenn man sieht, dass Kolleg:in IchÜbeNochBinFrisch oder BinHäufigUnkonzentriert den Vorgang bearbeitet hat.
2/X@AwetTesfaiesus Selbst wenn Kolleg:in GutEingearbeitetUndVerlässlich drunter steht, ist der Mensch eher bereit, auf Dinge zu achten, die bei der KI als Halluzinationen bekannt sind.
Ja, da kann man dran arbeiten, aber ich habe noch nie ein Konzept dazu erlebt - bleibe also vorerst skeptisch.
3/X -
@AwetTesfaiesus Selbst wenn Kolleg:in GutEingearbeitetUndVerlässlich drunter steht, ist der Mensch eher bereit, auf Dinge zu achten, die bei der KI als Halluzinationen bekannt sind.
Ja, da kann man dran arbeiten, aber ich habe noch nie ein Konzept dazu erlebt - bleibe also vorerst skeptisch.
3/X@AwetTesfaiesus Aspekt 2: KI vs. programmierte Optimierung: Wer erklärt mir das Wunder?
Wir kennen alle die Geschichten von Monster-IT-Projekten mit Verzögerungen, erhöhten Kosten, Nervenzusammenbrüchen, ... (ich selber habe da auch ein paar Narben auf dem Rücken :-)). Ein nennenswerter Grund dazu ist die Festlegung, was die IT denn machen soll. Früher hat man dicke Aktenordner (Lasten-/Pflichtenhefte, Specs, welcher Name auch gerade modern war) erstellt - hat nicht funktioniert.
4/X -
@AwetTesfaiesus Aspekt 2: KI vs. programmierte Optimierung: Wer erklärt mir das Wunder?
Wir kennen alle die Geschichten von Monster-IT-Projekten mit Verzögerungen, erhöhten Kosten, Nervenzusammenbrüchen, ... (ich selber habe da auch ein paar Narben auf dem Rücken :-)). Ein nennenswerter Grund dazu ist die Festlegung, was die IT denn machen soll. Früher hat man dicke Aktenordner (Lasten-/Pflichtenhefte, Specs, welcher Name auch gerade modern war) erstellt - hat nicht funktioniert.
4/X@AwetTesfaiesus Oder geht man jetzt doch das Risiko ein, dass für längere Zeit die KI noch all die Dinge lernen muss und solange "Fehler wie eingeplant" machen wird? Fragt mal heute die Fachbereiche, ob das Projekt schon mal Live gehen darf, auch wenn die 125 definierten Sonderfälle erst im Herbst nachgeliefert werden!
5/X -
@AwetTesfaiesus Oder geht man jetzt doch das Risiko ein, dass für längere Zeit die KI noch all die Dinge lernen muss und solange "Fehler wie eingeplant" machen wird? Fragt mal heute die Fachbereiche, ob das Projekt schon mal Live gehen darf, auch wenn die 125 definierten Sonderfälle erst im Herbst nachgeliefert werden!
5/X@AwetTesfaiesus Jetzt kommt die KI (pardon, diejenigen, die das Projekt verkaufen wollen) und sagt "ach was - die KI macht das schon richtig". Was würde ich mich freuen, wenn es so ausgeht! Aber: Heißt das jetzt, dass die Aktenordner / der Austausch im Agilen Umfeld also doch ganz viele überflüssige Dinge beinhalteten? Dann könnte man doch die "traditionellen" Projekte viel schlanker gestalten.
6/X -
@AwetTesfaiesus Jetzt kommt die KI (pardon, diejenigen, die das Projekt verkaufen wollen) und sagt "ach was - die KI macht das schon richtig". Was würde ich mich freuen, wenn es so ausgeht! Aber: Heißt das jetzt, dass die Aktenordner / der Austausch im Agilen Umfeld also doch ganz viele überflüssige Dinge beinhalteten? Dann könnte man doch die "traditionellen" Projekte viel schlanker gestalten.
6/X@AwetTesfaiesus Zusammengefasst: Ich habe häufig die Befürchtung, dass man allzugerne den Heilsversprechen der KI glaubt, weil man dann träumen darf, dass die KI schon alles richtig macht und man die Ochsentour für die ganzen Festlegungen durch ein Wunder vermeiden kann - und dann siehe Aspekt 1 oben "die IT hats gesagt". Wie gesagt, ich würde es auch extrem gerne, aber ich habe noch keine Erklärung gelesen, wie das funktionieren wird.
7/X -
@AwetTesfaiesus Zusammengefasst: Ich habe häufig die Befürchtung, dass man allzugerne den Heilsversprechen der KI glaubt, weil man dann träumen darf, dass die KI schon alles richtig macht und man die Ochsentour für die ganzen Festlegungen durch ein Wunder vermeiden kann - und dann siehe Aspekt 1 oben "die IT hats gesagt". Wie gesagt, ich würde es auch extrem gerne, aber ich habe noch keine Erklärung gelesen, wie das funktionieren wird.
7/X@AwetTesfaiesus Aspekt 3: Seniors werden nicht geboren!
Die Standard-Aussage zur KI-Einführung ist "Reklamationen / schwierige Fälle / ... werden dann an erfahrene Menschen (Seniors) gegeben, wir können uns aber die Unerfahrenen (Juniors) sparen, was die tun, kann die KI auch". Kann man so machen (manche Berufsbilder werden auch ganz verschwinden, irgendwann werden wir auch keine Tankwarte mehr haben, vgl. Kutschenfahrer), aber: hat man auch ein Konzept, wie man die Seniors befähigen will?
8/X -
@AwetTesfaiesus Aspekt 3: Seniors werden nicht geboren!
Die Standard-Aussage zur KI-Einführung ist "Reklamationen / schwierige Fälle / ... werden dann an erfahrene Menschen (Seniors) gegeben, wir können uns aber die Unerfahrenen (Juniors) sparen, was die tun, kann die KI auch". Kann man so machen (manche Berufsbilder werden auch ganz verschwinden, irgendwann werden wir auch keine Tankwarte mehr haben, vgl. Kutschenfahrer), aber: hat man auch ein Konzept, wie man die Seniors befähigen will?
8/X@AwetTesfaiesus Meist waren das vor ein paar Jahren Juniors, die z.T. von ihren Senior-Kolleg:innen on-the-job ausgebildet wurden. Klar spart der Kapitalismus / die Organisation die ersten Jahre richtig Geld, aber hat man auch ein Konzept (außer: in ein paar Jahren werden wir der KI KOMPLETT trauen), wie man an neue Seniors gelangt, wenn die jetzigen befördert / verrentet / umgezogen sind? Auch hier: würde mich freuen, wenn es da was gäbe, aber ich habe Zweifel.
9/9 - Thread Ende, endlich
-
@jlink wenn Volkswagen, die Telefonzentralen auf KI umrüsteten kann das auch das AG Nettelstedt
@AwetTesfaiesus Privatkonzerne rüsten auf „KI“ um, weil sie sich kurzfristig Einsparungen erhoffen und die Qualität der Dienste erstmal egal ist, bzw. nur so gut sein muss, dass deswegen nicht viel Geld verloren geht. Bei Anwälten und Gerichten hoffe ich da auf etwas mehr Fokus auf Qualität. Und ob diese ausreichen wird in näherer Zukunft steht mMn in den Sternen.
„Normale“ Digitalisierung ist diesbezüglich viel berechenbarer. -
In vielen Gerichten geht 20% der richterlichen Arbeitszeit dafür drauf Termine mit den Parteien zu organisieren/zu verlegen. Die KI kann die Termine unmittelbar mit den Anwältinnen abstimmen.
Das spricht sehr für #Digitalisierung, aber nicht zwangsläufig für #AI, oder?
-
Ihr glaubt mir das alles ja nicht, aber: das ist jetzt schon so! Ich habe mehrfach (!) fremde Akten zu mir ins Büro bekommen. Mehrfach(!). Ich werde nicht ins Detail gehen, aber: es ist sehr leicht für einen böswilligen Akteur an eine Akte zu kommen. Es gibt wenige Fälle, bei denen die Akten besonders gesichert sind. Ich schätze < 0,1% (Staatsschutz/Mafia). Aber auch die werden fast alle mit der Post verschickt.
@AwetTesfaiesus
Also ich mach ja IT im sicherheitskritischen Bereich im internationalen Großkonzern, ne? So mit sehr strengen Sicherheitskonzepten und personenbezogenen Accunts und Geräten... Zugriffsdokumentation, Vier-Augen-Prinzip und der Spagat zwischen "Need to know only" und "Im Notfall muss das schnell wiederherstellbar sein, weil jede Stunde Ausfall 6stellig kostet". Mir rollt es da ja schon etwas die Fußnägel hoch, ne?
Aber ja, ich kenn die Gruselstories über das beA. Meine Meinung ist: Wenn unsere Justiz sowas nicht sauber und sicher hochgezogen kriegt, sollten sie da erstmal dran arbeiten und nicht das nächste Feature implementieren, bei denen sie keinen Überblick darüber haben, was für Scheunentore sie sich damit aufreißen.
-
@AwetTesfaiesus Meist waren das vor ein paar Jahren Juniors, die z.T. von ihren Senior-Kolleg:innen on-the-job ausgebildet wurden. Klar spart der Kapitalismus / die Organisation die ersten Jahre richtig Geld, aber hat man auch ein Konzept (außer: in ein paar Jahren werden wir der KI KOMPLETT trauen), wie man an neue Seniors gelangt, wenn die jetzigen befördert / verrentet / umgezogen sind? Auch hier: würde mich freuen, wenn es da was gäbe, aber ich habe Zweifel.
9/9 - Thread Ende, endlich@othmar Scheint mir im wesentlichen eine richtige Betrachtung.
-
@AwetTesfaiesus Aus Neugier: Siehst du aus deiner Erfahrung da Dinge, die wirklich "KI" erfordern und nicht einfach mehr Digitalisierung? Ich erinnere mich zum Beispiel an die telefonische Fahrplanauskunft der Bahn, bei der man zwar übertrieben deutlich sprechen musste, dafür brauchte es aber keine "KI".
@rainerzufall_le Natürlich "erfordert" da nichts KI. Natürlich wird sie aber überall hinein drängen. Vermutlich vor allem:
Sitzungsprotokolle
Diktate
Büro-Orga
SchriftguterfassungIch denke aber auch, dass z.B. die Beratugnshilfe-Brüfung KI-Fähig sein könnte (da sind die Zustände teils untragbar schlimm)
-
@AwetTesfaiesus @momo Wenn die Besetzung der Geschäftsstellen und Schreibstuben weiterhin so zusammengespart wurde, wie ich es in den 1990ern erlebt habe, wundert mich das überhaupt nicht.
(Justizang. von 1991 bis 1996 beim Landesarbeitsgericht Baden-Württemberg, Kammern Mannheim.)
Blitz-Demographie
-
Ich denke, auf #KI im Recht blicken wir derzeit falsch und, dass sie sich extrem schnell durchsetzen wird, aber nicht in Spruchkörpern.
Die zahlenmäßig allermeisten Rechtsnutzenden haben kein (bzw. nur 1) Staatsexamen. Es sind
- Rechtspfleger:innen
- Kostenbeamte
- Verwaltungsleute
- ServicepoolsMeine Einschätzung wäre, dass aktuell 30% dieser Jobs und in ~2 Jahren 90% -im Durchschnitt (!)- von KI nicht mehr schlechter erledigt werden, als derzeit von Menschen (aber zu 20% der Lohnkosten).
@AwetTesfaiesus Verstehe ich da was nicht oder tickt hier der Wahnsinn? Das sind doch alles vertrauliche Daten (Termine, Inhalte, Adressen). Die KI wird in der Regel nicht nur vortrainiert und dann basta, sondern laufend trainiert. Hat der Staat irgendeine sichere Digitalinfrastruktur auf der eine rechtlich und sicherheitstechnisch vollständig??? geprüfte Open-Source- (diesmal wg. Demokratie) KI-Version mit Fort-Knox-Sicherheit in Deutschland läuft oder in den nächsten 50 Jahren laufen kann? >2
-
@AwetTesfaiesus Verstehe ich da was nicht oder tickt hier der Wahnsinn? Das sind doch alles vertrauliche Daten (Termine, Inhalte, Adressen). Die KI wird in der Regel nicht nur vortrainiert und dann basta, sondern laufend trainiert. Hat der Staat irgendeine sichere Digitalinfrastruktur auf der eine rechtlich und sicherheitstechnisch vollständig??? geprüfte Open-Source- (diesmal wg. Demokratie) KI-Version mit Fort-Knox-Sicherheit in Deutschland läuft oder in den nächsten 50 Jahren laufen kann? >2
@a_goodall_spaceship Da gibt es ja mehrere Anbieter in der EU, die sich warm laufen (Aleph/Schwarz bzw. Mistral, z.B.).
Aber: ja, das ist sicher ein Problem.
Und: wir werden es trotzdem serviert bekommen. -
@AwetTesfaiesus Verstehe ich da was nicht oder tickt hier der Wahnsinn? Das sind doch alles vertrauliche Daten (Termine, Inhalte, Adressen). Die KI wird in der Regel nicht nur vortrainiert und dann basta, sondern laufend trainiert. Hat der Staat irgendeine sichere Digitalinfrastruktur auf der eine rechtlich und sicherheitstechnisch vollständig??? geprüfte Open-Source- (diesmal wg. Demokratie) KI-Version mit Fort-Knox-Sicherheit in Deutschland läuft oder in den nächsten 50 Jahren laufen kann? >2
@AwetTesfaiesus 1>2 Warum klappte etwas 80 Jahre lang mit quasi der gleichen Bevölkerungszahl und nun, mit Verfügbarkeit von Computern deren Speicher- und Rechenkapazität gigantoman ist, bei rasend schnellem quasi unterbrechungsfreien Internet und bei gleichzeitigem Wegfall der Notwendigkeit überhaupt mit Papier und zugeh. Transport umgehen zu müssen, soll das plötzlich nicht mehr effektiv genug gehen? Nach Bahn, Post, Telekom., Stromnetzen auch den Rest Staatshoheitlichkeit outsourcen?>3
-
@AwetTesfaiesus 1>2 Warum klappte etwas 80 Jahre lang mit quasi der gleichen Bevölkerungszahl und nun, mit Verfügbarkeit von Computern deren Speicher- und Rechenkapazität gigantoman ist, bei rasend schnellem quasi unterbrechungsfreien Internet und bei gleichzeitigem Wegfall der Notwendigkeit überhaupt mit Papier und zugeh. Transport umgehen zu müssen, soll das plötzlich nicht mehr effektiv genug gehen? Nach Bahn, Post, Telekom., Stromnetzen auch den Rest Staatshoheitlichkeit outsourcen?>3
@AwetTesfaiesus Es gibt nur wenige Sparten der KI, die derzeit! absehbar berechenbar sinnvoll sind. Das ist die Mustererkennung in der Medizin (weil jeder zusätzliche! Hinweis zur Auffindung einer Krankheitsursache hilft) und beim Militär in der Aufklärung (weil es auch hier um Lebensrettung durch zusätzliche Informatioen und schelle Reaktionen geht). Der eigentliche Grund der latenten systemischen Ungerechtigkeit im juristischen Apparat ist doch die Qualität der Gesetze und der Gerichtsusancen.
-
@AwetTesfaiesus Es gibt nur wenige Sparten der KI, die derzeit! absehbar berechenbar sinnvoll sind. Das ist die Mustererkennung in der Medizin (weil jeder zusätzliche! Hinweis zur Auffindung einer Krankheitsursache hilft) und beim Militär in der Aufklärung (weil es auch hier um Lebensrettung durch zusätzliche Informatioen und schelle Reaktionen geht). Der eigentliche Grund der latenten systemischen Ungerechtigkeit im juristischen Apparat ist doch die Qualität der Gesetze und der Gerichtsusancen.
@a_goodall_spaceship beim letzten Punkt bin ich jedenfalls nicht bei dir
-
@AwetTesfaiesus 1>2 Warum klappte etwas 80 Jahre lang mit quasi der gleichen Bevölkerungszahl und nun, mit Verfügbarkeit von Computern deren Speicher- und Rechenkapazität gigantoman ist, bei rasend schnellem quasi unterbrechungsfreien Internet und bei gleichzeitigem Wegfall der Notwendigkeit überhaupt mit Papier und zugeh. Transport umgehen zu müssen, soll das plötzlich nicht mehr effektiv genug gehen? Nach Bahn, Post, Telekom., Stromnetzen auch den Rest Staatshoheitlichkeit outsourcen?>3
@a_goodall_spaceship also bis 1990 war die Bevölkerungszahl ja schon mal erheblich sehr viel kleiner (CDU-Hallstein rotiert vor Wut im Grab, ich höre ihn fast schon rufen).
