Legal Harness: Was um die KI herum gebaut wird (mit Kilian Springer)

00:00:00: Und es ist schwachsinnig hinzustellen zu sagen, ich mache jetzt einen Riesenagenten.

00:00:03: Dann scheitert ja jedes Projekt. Eine Software, die alles schon kann, geht nicht. Ein Agent, der schon alles kann, geht auch nicht.

00:00:17: Willkommen zu Alles ist Recht, meiner Reise durch die Zukunft und die Vergangenheit des Rechts. Ich bin Daniel Halft und heute geht es um die Entwicklungen des Rechtsmarktes. Mit künstlicher Intelligenz und insbesondere um Legal Harness.

00:00:31: Dazu habe ich Kilian Springer da. Er ist Head of AI bei Distart.

00:00:35: Außerdem ist er regelmäßiger Referent im KI-Labor Recht, beim AI Legal Club und er leitet einen Roundtable für den Legal Tech Verband.

00:00:44: Kilian, schön, dass du da bist.

00:00:46: Hallo Daniel, schön, dass ich da sein darf.

00:00:48: Ich freue mich sehr. Und bevor wir in das Thema, in dieses sehr spannende Thema heute einsteigen, möchte ich noch was Spannendes tun, nämlich dir ein paar Überraschungsfragen stellen. Die erste Frage ist: Wenn du auf einer Party gefragt wirst, was du machst, was sagst du da?

00:01:04: Ja, das ist aber so schön. Also ich würde, glaube ich, immer sagen, dass ich gerade viel mit KI arbeite.

00:01:13: Ich würde sagen, dass ich, glaube ich, Workshops mache.

00:01:16: Aber wenn ich ehrlich bin, gucke ich immer so ein bisschen drauf, wer mich fragt, und versuche dann eine Antwort zu finden, die für die Person verständlich ist. Im Grunde mache ich irgendwie eigentlich immer alles gerne, was mir Spaß macht. Und das hat meistens aktuell viel mit KI zu tun, auch schon seit vielen Jahren.

00:01:30: Okay, du machst ja nicht nur KI, sondern du bist auch Rechtsanwalt.

00:01:34: Und meine zweite Frage geht in die Richtung: Welcher Anwalt oder welcher Richter aus Film und Fernsehen bist du? Oder bist du gar nicht?

00:01:43: Oh, das ist eine witzige Frage. Weißt du, ich habe letztens ChatGPT gefragt, welche Filmperson mir denn gleichkommt, und der hatte einen Side-Character aus— oh mein Gott, jetzt, wie hieß diese Sendung?

00:01:57: Suits? Nee, nicht Suits. Boston Legal?

00:01:59: Nee, nicht das. Breaking Bad? Genau, Breaking Bad, aber nicht Breaking Bad, sondern der Spin-off von Breaking Bad.

00:02:06: Ah, Better Call Saul.

00:02:08: Genau, da gibt es eine Nebenanwältin, die sehr rechtschaffen ist und sehr viel versucht, mit Technik zu lösen und so ein bisschen selbstständig.

00:02:13: Und der hat den Charakter genannt. Ich muss zugeben, ich weiß nicht mehr, wie er hieß, weil ich habe weder die Serie geguckt, also Breaking Bad ein bisschen geguckt, aber ich gucke irgendwie fast gar nichts mehr.

00:02:21: Deswegen kenne ich mich null aus. Aber anscheinend meint ChatGPT, ich wäre die Person.

00:02:25: Ich würde sagen, ich finde es total interessant, dass du dich jetzt schon mit etwas identifizierst, was die KI dir vorgeschlagen hat, was du selber gar nicht kennst.

00:02:30: Nee, ich identifiziere mich nicht damit, aber das wäre jetzt die einfachste Antwort, weil sonst wüsste ich tatsächlich keinen Anwalt, den ich so kenne, wo ich sage, wow, der ist so ähnlich wie ich.

00:02:39: Oder also jetzt in dem Bereich, weil ich glaube ich mich gar nicht mehr so sehr, sehr stark als Rechtsanwalt identifiziere.

00:02:46: Wahrscheinlich gab es in deiner Kindheit jemanden?

00:02:51: Nee, nee, nee, da kannte ich nicht mal jemanden, der studiert hat in meiner Kindheit.

00:02:57: Alles klar, dann nächste Frage: Was liebst du an deiner Arbeit?

00:03:03: Oh, das ist eine eigentlich sehr einfache Antwort, nämlich kreativ sein.

00:03:08: Also ich glaube, auch wenn ich ja am Anfang immer dachte, kreativ sein, das klingt doch ein bisschen komisch, wenn Anwälte das von ihrer Arbeit sagen, finde ich eigentlich, bin ich am liebsten kreativ.

00:03:16: Ich versuche gerne Lösungen zu finden, die in den gegebenen Gegebenheiten, die bestehen, reinpassen. Also umso mehr Restriktionen es gibt, umso tollere Lösungen findet man ja eigentlich.

00:03:25: Das macht mir Spaß.

00:03:26: Und du hast es jetzt auf Jura bezogen, oder gilt das für alles?

00:03:29: Das ist das Großartige, es gilt für alles.

00:03:31: Aber es ist sicherlich das, was mir im Jura am Anfang am meisten Spaß gemacht hat.

00:03:34: Sagen, okay, du hast jetzt hier ein Startup, das kommt, die haben wieder ein neues Geschäftsmodell. Das ist ja meistens bei Startups, du musst irgendwie einen Weg finden, das in Recht zu gießen und stimmig.

00:03:43: Okay, cool. Das, ja, ich würde sagen, du bist ein guter Anwalt, auch wenn du dich da nicht mehr hauptsächlich identifizierst mit.

00:03:52: Wie viel Prozent deiner Arbeit, jetzt auch so der Arbeit, die du an sich machst, vielleicht auch als Head of AI, lassen sich automatisieren?

00:04:03: Wenig. 20% vielleicht.

00:04:07: Und in den nächsten 5 Jahren? Also denk mal ein bisschen in die Zukunft, nicht nur, was sich jetzt gerade automatisieren lässt.

00:04:12: Das wird sich nicht viel ändern, weil ich gar nicht viel, weil ich ja sozusagen immer mit neuen Problemen. Also, mein Job ist ja tatsächlich aktuell sehr kreativ.

00:04:20: Zu mir kommt eine Abteilung und sagt: Wir haben ein Thema, kannst du uns das bitte lösen? Danach gehe ich auf die KI zu und plane das mit der KI oder Ähnlichem.

00:04:27: Aber sozusagen dieser Ansatz von Starten und Reden und Verständnis erzeugen und kommunizieren, das ist ja nichts, was ich automatisiere.

00:04:35: Also, es könnte vielleicht eine KI nachahmen, aber es wäre keine Automation per se.

00:04:39: Okay, das traust du der KI auch in der nächsten Zeit jedenfalls nicht zu.

00:04:42: Es wäre nicht automatisch. Automatisieren würde ja bedeuten, dass irgendjemand sich vorher den Weg schon ausgedacht hat.

00:04:46: Aber das ist ja nicht Teil meines Jobs.

00:04:50: Und wenn jetzt ein Agent, der einfach gebaut ist, also in dem Sinne Automatisierung, könnte der das?

00:04:58: Ja, sicherlich. Ja, ja, ich glaube schon.

00:05:01: Und wie viel würde der schaffen von deiner Arbeit?

00:05:04: Wenn jetzt, also ein Agent heute, zukünftig, zukünftig, naja, wahrscheinlich 60%.

00:05:13: Ich schieße jetzt aus der Hüfte.

00:05:16: Woher sollst du auch wissen, wie es in 5 Jahren um Agenten bestellt ist. Aber du bist einer der Leute, die es am besten wissen können.

00:05:26: Und jetzt bleiben wir mal bei den anderen 40%.

00:05:28: Was muss denn menschlich bleiben bei deiner Arbeit?

00:05:33: Kommunikation und Empathie. Das ist ganz, ganz sicher.

00:05:36: Also ich meine, das einfachste Beispiel ist, wie sehr hassen wir es, in der Warteschleife zu stecken und eine automatische Ansage zu hören?

00:05:42: Ob die jetzt automatisch ist oder eine KI-Assistenz, man möchte das nicht.

00:05:45: Man fühlt sich alleingelassen und man hat das Gefühl, man kann niemanden zur Verantwortung ziehen, im Negativen wie im Positiven, oder sich dankbar zeigen.

00:05:53: Und deswegen würde ich sagen, das ist das große Ding, was wir behalten werden und das auch immer stärker sein wird.

00:06:01: Ja, ich habe tatsächlich auch immer noch den Eindruck, dass Menschen, oder hatte ich sehr lange, dass Menschen einem mehr helfen können.

00:06:09: Also irgendwie die KI oder die automatische Ansage, die hat immer so: Willst du A und B? Aber wenn beides nicht passte, also dann war so der Workaround oder da einmal durchschneiden war halt irgendwie unmöglich.

00:06:22: Bislang konnten dann Menschen immer noch irgendwie was möglich machen.

00:06:26: Ich hatte jetzt aber gerade mal die andere Erfahrung tatsächlich bei YouTube.

00:06:30: Da ist mein Abo ausgelaufen und da war ich auf Bali und wollte das Abo wieder reinstaten, also wieder verlängern.

00:06:38: Und dann hat er gesagt, nee, das geht nicht, weil du bist ja nicht in Deutschland.

00:06:41: Ich kann es nicht beurteilen und so.

00:06:42: Und dann habe ich bei YouTube Kundenservice mit denen Kontakt aufgenommen und die haben gesagt, nee, tut mir leid, die Maschine erlaubt mir nicht, das zu verlängern, solange du nicht nachgewiesenermaßen in Deutschland bist.

00:06:54: Also da ist jetzt, und das ist ganz interessant, das ist auch ein bisschen, soll auch Thema heute sein, was, wie die Maschine uns vielleicht auch inzwischen im Griff hat.

00:07:04: Ja, das hat sie oft. Also tatsächlich nutze ich teilweise KI, um gewisse Workflows zu erzwingen, die sonst ein Mensch nicht machen würde.

00:07:11: Also auch das ist ja was, wofür man KI nutzen kann.

00:07:15: Aus ethischen Gründen?

00:07:17: Nein, es ist also zwingend, klang jetzt ein bisschen hart, aber ich meine, es gibt einfach so Sachen, die kriegen manche Menschen einfach nicht hin oder können sich nicht merken oder machen es viel zu selten und dann machen sie es nicht so, wie es vorgesehen ist. Und dann kann man halt ja auch einen Agenten sozusagen

00:07:30: aktivieren oder nutzen, der dann einen durchwinkt und zeigt, wie es laufen soll laut Unternehmen.

00:07:36: Okay, ach verstehe, sozusagen als Hilfe für den Menschen oder als Begleiter.

00:07:41: Ja, also der Mensch sagt dann, hier starte den Workflow, und dann macht der Agent das halt und holt sich die Informationen von Menschen, die er dafür braucht.

00:07:49: Ja, noch eine Frage zu dir: Was wolltest du werden, bevor du Jurist wurdest?

00:07:56: Regisseur tatsächlich. Damit hast du jetzt nicht gerechnet, oder?

00:08:01: Ich habe letztens eine Regisseurin, eine frühere Juristin gefunden, getroffen, die ist auch jetzt Regisseurin geworden.

00:08:05: Das fand ich ganz witzig, den Zufall.

00:08:07: Ich wollte Regisseur werden. Genau, das habe ich aber dann abgebrochen, weil ich mir wirklich ungelogen dachte, ich mache lieber was Richtiges.

00:08:15: Das ist sehr frech. Ich möchte das zurücknehmen.

00:08:18: Aber am Ende bin ich jetzt doch wieder irgendwie ein bisschen kreativ geworden.

00:08:21: Ja, Regisseur. Und davor wollte ich, glaube ich, immer als Kind Schauspieler werden.

00:08:25: Nah dran. Also kann ich gut nachvollziehen.

00:08:27: Ich habe noch so ein Freundebuch, wo das drinsteht.

00:08:29: Mein Berufswunsch Schauspieler.

00:08:31: Na, ich meine, ich weiß ja auch, du nimmst Videos auf, du konzipierst Videos, wo du auch selber zu sehen bist und so.

00:08:38: Insofern hast du dich ja dann auch in gewisser Weise dahin entwickelt, wo du ursprünglich schon mal dann— Ja, ich habe ja schon ein paar Gespräche geführt zu dem Thema und viele sagen, naja, eigentlich wollte ich erst was anderes, dann habe ich aber Jura gemacht, weil das sich so anbietet.

00:08:53: Da kann man irgendwie ganz viel mit machen oder das ist so ein sehr breites Feld, die jetzt aber dann über ihr Berufsleben hin doch wieder gucken, dass sie das, was sie ursprünglich interessant fanden, zunehmend integrieren.

00:09:06: Da würde ich dich jetzt auch ein bisschen drunter fassen.

00:09:09: Ja, also ich habe Jura studiert, weil ich es cool fand und interessant finde.

00:09:13: Und das hat sich auch nicht geändert.

00:09:14: Aber schon als ich angefangen habe, Anwalt zu werden, wusste ich, ich werde keine 10 Jahre Anwalt bleiben.

00:09:17: Und das hat doch genau 10 Jahre gedauert.

00:09:19: Aber ich wusste von Anfang an, ich bleibe nicht Anwalt.

00:09:21: Ich wusste bloß nicht, was ich anderes machen soll.

00:09:24: Cool. Du nimmst meine Frage vorweg.

00:09:25: Ich wollte— du hast— ich weiß, dass du in einer Großkanzlei gearbeitet hast.

00:09:29: Da aber nicht als Anwalt. Nee, da habe ich ja nur noch als Legal Tech Manager gearbeitet.

00:09:33: Okay, und als Anwalt warst du selbstständig oder angestellt?

00:09:36: Selbstständig. Ich war kurz angestellt, dann haben wir alle festgestellt, dass das nicht so gut funktioniert, und dann habe ich mich selbstständig gemacht mit einem Freund.

00:09:44: Und wie kam es dann dazu, dass du Legal Tech Manager wurdest?

00:09:48: Das ist eine Verkettung witziger Umstände, aber grundlegend war ich schon immer ein bisschen an IT interessiert, hatte aber nie so den Zugang als junger Mensch und als junger Erwachsener aus verschiedensten Gründen.

00:09:59: Dann habe ich das langsam bekommen, habe mich mal mehr reingefuchst.

00:10:01: Wir waren in der Kanzlei so, dass wir das papierlos machen wollten und wir wollten halt Sachen so anpassen oder so nutzen, wie wir es gewohnt waren.

00:10:08: Das gab es aber alles nicht so, da gab es nur RA-MICRO oder so was für Juristen.

00:10:11: Also haben wir das irgendwie selbst customised und gestartet und irgendwann mal wurde das Legal Tech und wir wussten das gar nicht.

00:10:17: Und wir haben irgendwie, komm, wir probieren mal einen Chatbot aus und wir machen hier Formulare, sodass die Mandanten das einfach so ausfüllen können.

00:10:23: Dann entstehen automatisch Dokumente draus.

00:10:25: Und für uns war das normal, dass man irgendwie ein Formular macht und dann entsteht automatisch ein Dokument draus, zum Beispiel für eine Gesellschaftervereinbarung oder so was. Und dann komme ich woanders hin und merke, dass das als Legal-Tech-Lösung, dass das sogar Legal-Tech-Lösungen sind, die verkauft werden.

00:10:37: Wir waren halt irgendwie immer viel weiter und haben gar nicht gecheckt, dass das irgendwie für andere nicht normal ist, weil man in so einer eigenen Bubble war.

00:10:45: Ja, das war halt dann so 2017, 2018, 2019, da waren wir schon komplett durchdigitalisiert, Projektmanagement-Tool und sonst was.

00:10:51: Nice. Also einfach aus eigenem Interesse und aus eigener Notwendigkeit so Probleme lösen.

00:10:57: Ich glaube, das war ein Verständnis von, wie man arbeitet.

00:10:59: Also meine Peergroup war eher ITler, Marketingagenturen und sonst was.

00:11:02: Man hat sich immer über Technik und wie man sein Unternehmen leitet unterhalten, so junge Leute. Und das war für alle so die Art und Weise des Lösens.

00:11:09: Man hat es, man kannte halt einfach keine andere Lösung.

00:11:13: Das finde ich interessant, weil es bringt mich gerade auf den Gedanken, dass wir Juristinnen und Juristen ja häufig in der eigenen Bubble sind, also irgendwie in der Rechtsabteilung, noch krasser in der Kanzlei.

00:11:23: Und dass es jedenfalls bis vor ein paar Jahren da wenig andere Berufsfelder gab, insbesondere jetzt irgendwie Techniker oder Marketingleute oder so, mit denen man sich austauschen konnte.

00:11:34: Ja, ja, ja, das war bei mir auch so.

00:11:36: Ich habe auch dann irgendwie Leute aktiv gesucht, die gar nicht aus Legal kommen, wenn ich was hatte, wo ich meinte, das muss jetzt niemand machen, der wirklich Legal gelernt hat. Also ich hatte eine Assistenz, der kam aus einem ganz anderen Bereich, wo ich mir dachte, eigentlich wichtig ist,

00:11:48: dass er kommunikationsstark ist und alles andere kann ich ihm beibringen, wie Fristen funktionieren und so was.

00:11:51: Aha, okay. Mein Eindruck. Hat auch funktioniert.

00:11:58: Nice, nice. Ich komme mal zur nächsten Frage, und zwar so ein bisschen überleitend auch zum Thema. Wir haben ja 2 Bücher zusammengeschrieben über Zukunft von Rechtsberatung, KI in der Rechtspraxis, haben da auch viele Prognosen getroffen.

00:12:13: Also die sind ja jetzt auch, die Texte sind jetzt irgendwie auch schon ein, 2 Jahre alt. Was ist eingetreten, so wie du es vermutet hast?

00:12:22: Also ich muss zugeben, dass ich schon 2022 gesagt habe, Agenten gehört die Zukunft.

00:12:29: Und das ist definitiv eingetreten. Und das habe ich eigentlich auch überall propagiert. Weil ich, was vollkommen nicht eingetreten ist, ich habe am Anfang gedacht, ChatGPT ist mir gefühlt nur ein Werbegag und wird nie was Richtiges werden.

00:12:41: Da habe ich mich vollkommen getäuscht.

00:12:42: Also sie haben es ja zu einem krassen KI-Assistenten umgebaut.

00:12:45: Dann ein Claude ist ja ähnlich aufgebaut oder ein Copilot Studio.

00:12:48: Das habe ich, glaube ich, vollkommen unterschätzt, wie Agenten in unsere Welt treten werden. Ich ging am Anfang auch davon aus, dass wir die selbst bauen, programmieren, wie auch immer, und dann nutzen.

00:12:57: Aber mein Verständnis wird so sein, dass wir früher oder später Agenten vor allem doch über Drittsoftware nutzen, entweder über die großen Anbieter selbst oder über Tech-Anbieter, und dass die wenigsten doch nur das selbst bauen werden.

00:13:08: Ich glaube, das ist eine Fehleinschätzung, die ich hatte, dass man großartig was selbst baut.

00:13:13: Man sieht ja auch immer mehr so Partnerschaften.

00:13:16: Also eigentlich jeder der großen KI-Anbieter, ob es Anthropic ist oder jetzt OpenAI oder so, hat mindestens eine Großkanzlei an der Seite, mit denen die zusammen ihren Legal-Bereich ausbauen.

00:13:28: Was interessanterweise, da war ich ein bisschen überrascht, dass die tatsächlich, die Großen, alle auf Legal setzen. Also man könnte ja sagen, der Markt ist eigentlich viel zu klein, aber alle, die ich kenne, haben diese Partnerschaften und sagen, wir machen irgendwie unsere Legal-Agenten,

00:13:44: die wir anbieten. Das ist echt verrückt, aber tatsächlich ist es dann so, wie du sagst, man baut nicht selber, sondern es wird bei denen unter Zuhilfenahme von entsprechendem Know-how gebaut und dann wahrscheinlich uns verkauft.

00:14:00: Ja, ja, genau. Das hätte ich auf jeden Fall nicht so gedacht, dass das so kommt. Und mittlerweile habe ich mich dem mehr oder weniger auch ergeben.

00:14:11: Ja, ich fürchte, vielleicht bist du da auch an der Grenze von dem, was du wie wir, du bist ja ein Repräsentant, so jemand, der baut, von dem, wo einfach nicht genügend Daten sind.

00:14:22: Nicht genügend Know-how in Bezug auf die ganz großen, auf die verschiedenen Felder, sodass man dann natürlicherweise sehr schnell an eine Grenze stößt oder beziehungsweise sagt, wir brauchen eine große Kanzlei, die auf verschiedenen Feldern aufgebaut ist, die unheimlich viele Daten haben.

00:14:37: Ich glaube, Daten sind nicht das Thema.

00:14:39: Nee, das glaube ich gar nicht. Das Thema ist eher die Pflege und die schnelle Entwicklung. Und da hinterherzukommen als kleines Entwicklerteam ist extrem.

00:14:46: Also, und insbesondere, du weißt halt nicht, was als Nächstes für Modelle rauskommen, was sich ändert, wo sich das ändert.

00:14:51: Es gibt natürlich viele Bastler und die wird es immer geben und die haben auch alle Bock. Und aber am Ende brauchst du halt ja vor allem Verlässlichkeit bei den Tools.

00:14:58: Und da bist du halt immer am besten aufgehoben bei den Leuten, die tatsächlich die KI kontrollieren, muss man einfach so sagen.

00:15:05: Alle anderen sind Zwischenhändler. Und wenn Anthropic sagt, du kriegst das nicht mehr, was ich hier anbiete, dann sind die Zwischenhändler raus.

00:15:12: Also ich muss ja sagen, jeder Anbieter, der ja sozusagen eine KI-Lösung anbietet und eben nicht Anthropic oder OpenAI ist und das drunter liegt, hat ja immer das Risiko, dass denen das wegfällt. Also ich sage mal so, wenn ich jetzt eine Webseite hoste, eine Plattform hoste im Internet und Amazon mag mich nicht mehr,

00:15:27: dann gehe ich halt zu Google oder irgendwo anders hin.

00:15:30: Aber wenn Anthropic mich nicht mehr mag, dann muss ich zu OpenAI.

00:15:34: Nicht, dass OpenAI viel schlechter ist, aber die Modelle funktionieren anders.

00:15:37: Ich müsste also mein ganzes Setup auf diesen Modellen neu bauen und das geht nicht mal ganz schnell. Also wäre ich wochenlang raus.

00:15:42: Also das ist eine Abhängigkeit, die ist ja schon krass.

00:15:45: Und ich habe jetzt keinen gesetzlichen Anspruch darauf, da irgendwie ranzukommen oder was auch immer. Also klassisch.

00:15:50: Also das ist schon, ja, und das, also Das ist schon ungewöhnlich.

00:15:55: Sonderfall ist vielleicht Microsoft, die irgendwie einen unheimlichen Marktzugang haben und gleichzeitig auch noch irgendwie verbandelt sind mit den Unternehmen.

00:16:05: Anderer Sonderfall, der mir gerade einfällt, Google, die sozusagen sowohl die Infrastruktur als auch die KI haben.

00:16:11: Aber wer am Ende gewinnt, also zum Beispiel ich nutze sehr wenig Google, sondern nutze momentan ganz viel Claude, einfach weil es für meine Anwendungsfälle am besten ist. Fast alle Leute, die ich kenne, sagen, ich nutze gerade ganz viel Claude. Claude, insofern das passt.

00:16:26: Ich finde es auch gut.

00:16:27: Also ich empfehle bei uns, also wir haben ja, ich habe die Möglichkeit, sozusagen verschiedenen Teams zusammenzuarbeiten, also nicht nur mit Legal.

00:16:33: Und manchen empfehle ich aber auch zu sagen, nee, nimm nicht Claude.

00:16:36: Also ich hatte letztens so ein Thema, da wollte ich mit Claude einfach nur so eine Idee durchspinnen und konnte es einfach nicht machen, weil Claude mich ständig auf irgendwelche Sachen hingewiesen hat.

00:16:44: Und das ist ja auch kompliziert. Und hier mit Personalrecht, und ich möchte jetzt erstmal nur wissen, ob es technisch funktioniert.

00:16:48: Und dann bin ich auch zu ChatGPT rübergegangen und habe das in ein paar Sekunden geklärt, weil es mich so genervt hat, dass Claude einfach irgendwie 17 neue Fragen gestellt hat, und ich wollte erstmal eine beantworten.

00:16:57: Also es gibt auch Momente, also so ChatGPT für Marketing finde ich viel geiler als Claude. Aber ich meine, das ist so, aber interessant, ne, dass du Claude dann nicht hinbekommen hast, dass er einfach die Klappe hält und dann aber macht, oder einfach übertrieben. Ja, es hat mich genervt.

00:17:14: Ich habe genug andere KI zum Glück.

00:17:17: Das irgendwie auch ganz schön passend zum Thema, ne, so wenn die KI nicht das macht, was ich will, welche Möglichkeiten habe ich da?

00:17:25: Und man hat jedenfalls noch die Möglichkeit zu sagen, dann gehe ich halt zu anderen.

00:17:29: Auch andere haben schöne KIs sozusagen.

00:17:34: Eine Entwicklung, die wir damals auch nicht so auf dem Schirm hatten, und darüber wollten wir heute auch sprechen, ist Legal Harness.

00:17:42: Kannst du mal erklären, was das ist?

00:17:44: Du hast ja gesagt, du kannst zielgruppenabhängig immer ganz gut sagen, was du machst. Vielleicht kannst du auch sagen, was Legal Harness ist für Leute, die, naja, Juristen oder interessierte Laien sind, aber jedenfalls keine Techniker.

00:17:57: Nee, das ist wirklich nicht so leicht.

00:17:59: Ja, das ist so ein Begriff, der jetzt in meiner Wahrnehmung erst so Anfang des Jahres richtig aufkam. Und mehr oder weniger ist es das Geschirr.

00:18:08: Also, aber ich finde es nicht, also nicht das Geschirr zum Essen, sondern was sozusagen um ein Tier drumherum ist beispielsweise.

00:18:14: Aber grundlegend könnte man es so bezeichnen: Es ist die Software, eine Art Software, die um eine KI drumherum gebaut wird.

00:18:22: Also wir haben festgestellt, oder es wurde jetzt auch oft genug festgestellt, dass die Leistungsfähigkeit eines KI-Modells mittlerweile ja nur noch um wenige Prozentpunkte steigt oder schrumpft oder sich unterscheidet.

00:18:33: Aber das, was wirklich viel rausholt, ist das Drumherum.

00:18:35: Also welche System-Prompts gebe ich dem?

00:18:37: Welche Tools gebe ich dem? Was erlaube ich dem?

00:18:40: Was erlaube ich dem nicht? Was für allgemein, wie bearbeite ich, also wie lasse ich die KI arbeiten für mich?

00:18:47: Läuft die zum Beispiel in einer Schleife oder muss die mir immer antworten?

00:18:51: Oder kontrolliere ich die? Kontrolliere ich nicht so viel?

00:18:53: Also die verschiedenen Arten und Weisen, das einzustellen.

00:18:56: Und man kann sagen, dass ich sozusagen so einen Harness, also um eine KI drumherum baue, vielleicht auch mit Hilfe eines schon bestehenden Programms.

00:19:04: Also ich kann einen Claude Code nehmen oder einen Codex oder was ganz Verrücktes wie Pi, also was dann so ein eigener Harness ist, und kann daraus mir wie so einen Agenten bauen. Und hier vermische ich gerade bewusst zwei Wörter.

00:19:18: Der Harness kann man auf zwei Stufen verstehen.

00:19:20: Einmal als die grundlegende Harness, die Software wie ein Claude Code.

00:19:24: Aber ich kann auch sozusagen den Claude Code noch mal wie so einen aufschmückenden Harness draus machen. Dann mache ich meinetwegen eins für Marketing und eins auch für Legal. Und dann habe ich den Legal-Agenten, der so funktioniert, dass ich auch weiterhin meinen Chat habe, mit dem ich rede, aber der halt

00:19:41: kontinuierlich wie ein Jurist mit gewissen Grundannahmen mit mir interagiert.

00:19:45: Ich sage, schreib mir, oder ich lasse irgendwas erstellen, dann wird automatisch ein Subagent gestartet, der juristisch noch mal was prüft, der noch mal Quellen prüft, der noch mal Sachen prüft, reviewt, die ich gereviewt haben möchte.

00:19:57: Also, und das habe ich in meinem Harness eingestellt.

00:19:59: Und das sind all diese Sachen, die ich baue, um dann jemanden zu haben, der genauso Jura macht, wie ich mir das vorstelle, mit all den Sicherheitsstufen.

00:20:08: Das heißt noch mal zum Verständnis, so jede KI hat ja eigentlich an sich schon Harness, ne, hast du ja auch gerade eben gesagt.

00:20:15: Also jedenfalls so würde ich das verstehen.

00:20:17: Früher konntest du ja sagen, wie baue ich eine Bombe, und dann hat es dir erklärt.

00:20:21: Und dann wurde über verschiedene technische Wege, irgendwelche Listen und so weiter, das Ganze immer schwerer. Und man, für die, die Hersteller versuchen quasi zu verhindern, dass man es für illegale Zwecke benutzen kann.

00:20:33: Gleichzeitig ist der Harness aber wahrscheinlich auch, dass er nicht nach rechts wegrennt oder so, sondern ihn sozusagen die KI in einem gewissen Korridor hält, wo man sie am besten nutzen kann. Und jetzt also noch mal mit meinen Worten, dass ich es verstanden habe, kannst du sozusagen für einzelne Felder noch mal ein

00:20:52: zweites Zaumzeug drumlegen, ein zweites Sicherungsnetz.

00:20:56: Und das ist aber nicht nur ein Schutz, also nicht nur, okay, wir brauchen zum Beispiel mehr Sicherheit.

00:21:02: Im juristischen Bereich. Also du musst dir sicherer sein, du musst Gesetze beachten oder so, sondern das kann auch so eine Art Workflow— ist der falsche Begriff, aber so ein Environment, so eine Umwelt sein.

00:21:13: Environment, richtig, eine Umgebung.

00:21:15: Du baust die Umgebung für den KI-Agenten.

00:21:17: Das ist richtig. Das ist eine sehr gute Beschreibung.

00:21:19: Also man kann es sich wie so ein kleines Büro vorstellen, das man dem baut.

00:21:22: Da hinten ist das Knowledge, da geht er zur Bibliothek, holt er sich sein Wissen raus. Dann sage ich ihm mal, was er genau machen soll, wann er mir meinen Kaffee bringen soll, wann er mir meinetwegen sagen soll, wann ich— also es ist eine Mischung aus Assistenz und Büro, die ich baue.

00:21:32: Er ist die Assistenz und ich sage ihm, wie seine Wege sind, seine Workflows und welche Mittel ich ihm in die Hand gebe.

00:21:38: Und das plane ich und teste ich.

00:21:40: Ist der ein Agent oder ist es in einem Harness, könnten da auch sozusagen ein Überagent sein und verschiedene Unteragenten?

00:21:47: Also der Bibliothekar ...

00:21:48: So ist es eigentlich. Man muss sich das vorstellen, man hat einen Orchestrator, also einen sozusagen Dirigenten, mit dem man hauptsächlich redet.

00:21:54: Und man hat die Subagenten, die man rausschickt, um neue Aufgaben zu lösen.

00:21:59: Und da kann man auch mal 200 Agenten laufen lassen, wenn man mal was Größeres hat.

00:22:04: Also mal so ein Beispiel. Mal angenommen, ich kriege jetzt, warum auch immer, wir kaufen, wir beide wie immer kaufen mal wieder eine Immobilienfirma, was wir so machen, wenn es langweilig ist, jeden Sonntag, genau.

00:22:16: Und da gibt's halt, keine Ahnung, 200 Häuser und pro Haus gibt's 10 Mietverträge, also 200 Mietverträge. Und ich weiß jetzt, jeden Mietvertrag möchte ich nach Schema X prüfen, und dann lasse ich halt 200 Subagenten mit dem gleichen Schema über diese einzelnen Mietverträge drübergehen und auswerten.

00:22:30: Und das macht der Orchestrator für mich, und der zieht dann alles zusammen und berichtet mir das dann, macht mir eine Tabelle, da sind alle Daten drinne.

00:22:36: Sowas könnte ich halt damit machen.

00:22:38: Warum? Das wären ja 200 Agenten, die alle das Gleiche machen.

00:22:41: Also warum lasse ich die einen 200 Mal drüber laufen?

00:22:45: Das ist eine tolle Frage. Ja, natürlich.

00:22:47: Eine KI hat einen Kontext und irgendwann mal voll ist.

00:22:49: Umso mehr ich in diesen Kontext reinlade, umso schlechter wird sie.

00:22:52: Das beschreibe ich immer ganz gerne.

00:22:52: Wenn ich dir jetzt eine halbe Stunde, wenn ich dich jetzt hier 200 Mietverträge lesen lasse und dann ohne Pause und danach sagst du mir bitte, was in den 200 drin stand, dann wird es sehr, sehr schwer dir fallen.

00:23:01: Sicherlich kommt eine KI noch ein Stück weiter als du.

00:23:04: Nichts gegen dich. Mit dem Merken. Aber auch ihr fällt das schwer, 200 Verträge zusammenzumachen. Und also ich gebe einer KI den kleinstmöglichen Auftrag.

00:23:13: Okay, und das sind dann quasi horizontale Unter-KIs.

00:23:16: Aber gäbe es auch, ich weiß nicht, ob vertikal das richtige Wort ist, aber das hatte ich ja so ein bisschen.

00:23:21: Wie ein Baum kannst du es immer weiter auffächern.

00:23:23: Du kannst einen Sub- und Sub-Sub-Agenten.

00:23:24: Die Frage ist, wie lange noch Kontext nach oben kommt, weil die müssen ja wieder Kontext nach oben durchgeben.

00:23:29: Ja, also Zusammenfassungen letztendlich wahrscheinlich von ihren Ergebnissen.

00:23:32: Und je mehr man nach unten geht, ist eigentlich wie in einem Konzern, je mehr du nach unten gehst, desto mehr Informationen gehen auch verloren, je größer das Unternehmen wird. Aber du kannst quasi auch verschiedene Agenten orchestrieren lassen, die unterschiedliche Dinge machen.

00:23:46: Ja, also der eine, der eher auswertet, der andere, der eher erstellt.

00:23:50: Also wenn ich Schulungen gebe, dann versuche ich das auch mal zu erklären.

00:23:54: Du musst quasi den Sweetspot finden zwischen, wie aufwendig ist das, diese Umgebung zu schaffen. Also da ist natürlich ein gewisses Grad von Komplexität, ist super, aber irgendwann wird es halt sehr aufwendig.

00:24:05: Und was kriegst du quasi in Return?

00:24:09: Und du musst halt auch schauen, dass du es nicht zu komplex machst, weil du zum einen sehr viel Zeit investierst und zum anderen könnten auch Informationen wiederum verloren gehen, wie du gesagt hast, dass das ja immer wieder nach oben gegeben werden muss.

00:24:20: Genau. Also da vielleicht, also erstens arbeitest du ja in Sessions.

00:24:22: Also immer wenn du eine neue Session aufmachst, hast du einen neuen Agenten.

00:24:25: Du kannst so 10 Sessions gleichzeitig laufen lassen mit 200 Unteragenten.

00:24:28: Das ist ein bisschen teuer vielleicht an Token, aber grundlegend spricht da nichts dagegen.

00:24:33: Wenn man Chinesische nimmt.

00:24:34: Genau, ein Thema. Also vielleicht zum Verstehen, also ich fand, du hast gerade mehr oder weniger, also du hast gerade einen guten Punkt eingebracht, der war auf jeden Fall gut. Ich weiß nicht, ob du den wirklich bewusst eingebracht hast. Ist diese Thematik, wie baut man das denn?

00:24:48: Macht es überhaupt Sinn, so was zu bauen?

00:24:50: Das ist so ein bisschen, die meisten von uns haben wahrscheinlich schon mal ein Videospiel gespielt. Und wenn man sich jetzt vorstellt, ich starte ein Videospiel mit einem Charakter, den ich entwickle, und der kann auf einmal schon alles, und von Tag 1 werde ich da nicht gut drin.

00:25:00: Der muss sich Stück für Stück entwickeln, und so muss ich das auch mit einem Harness machen. Also mein erster Legal Harness, der macht nichts mehr, außer einen Word, also vielleicht ein

00:25:07: Vertrag zu erstellen. So, mehr kann der nicht.

00:25:10: So, und dann merke ich, wenn er den Vertrag erstellt, macht er ständig Rechtschreibfehler. Das nervt mich.

00:25:14: Oder der schreibt nicht richtig Ös und Äs hin.

00:25:16: Also mache ich da jetzt noch einen Reviewer hin, der irgendwie die Rechtschreibung richtig anpasst. Außerdem will ich nicht, dass der, außerdem will ich, dass er Du und Dein großschreibt oder noch irgendwelche anderen Besonderheiten, die ich halt habe. Oder ich möchte das Datum, ein Datum mit einer Null davor

00:25:30: geschrieben. Wir Juristen haben ja da so irgendwie gefühlt für alles eine Regel, wie wir das gerne machen. Und das möchte ich, dass der das kontrolliert.

00:25:36: Der hat die Anweisung, das zu machen.

00:25:36: Dann habe ich jemanden, der das noch kontrolliert.

00:25:38: Und außerdem möchte ich außerdem, dass alle Quellen noch mal kontrolliert werden.

00:25:40: Und dann baue ich noch das dazu. Und so sollte das sein.

00:25:43: Stück für Stück baue ich mir das auf.

00:25:45: Und dann habe ich in einem Dreivierteljahr einen coolen Agenten, weil ich muss ja alles immer ein bisschen testen.

00:25:49: Und es ist schwachsinnig, sich hinzustellen und zu sagen, ich mache jetzt einen Riesenagenten. Dann scheitert ja jedes Projekt.

00:25:54: Eine Software, die alles schon kann, geht nicht.

00:25:56: Ein Agent, der alles kann, geht auch nicht.

00:25:59: Ist aber ein typischer Anspruch von Juristen, ne?

00:26:00: Also gerade bei Einführung von Software, so, es muss eigentlich alles können.

00:26:04: Deswegen gibt es ja immer eigentlich den Ratschlag, nimm die Software und dann schaue, welche Aufgaben du ihr geben kannst, und nicht definiere erst alle Aufgaben und dann sagt, die Software soll das können, ne.

00:26:14: Eigentlich plädierst du ja auch dafür, sie auszubauen, was auch, ich finde, total Sinn macht, weil manchmal merkt man dann auch nachher, dass das Funktionen sind, die man gar nicht braucht, ne.

00:26:27: Dann hat man irgendwie viel Zeit investiert in die Entwicklung oder sowas und dann nutzt— also wir hatten früher mal zum Beispiel ein Contract Management System, da mussten wir, da war das noch nicht automatisiert möglich, da mussten wir, wollten wir gerne eine gute Übersicht haben,

00:26:40: ne, irgendwie Gerichtsstand und so weiter und so fort.

00:26:43: Aber du musstest jeden Vertrag einzeln nach diesen 20 Sachen irgendwie, die musstest du dann da eingeben in der Software, dafür dass du einmal im Monat eine Frage gestellt hast oder alle 2 Monate, ne.

00:26:56: Das heißt, es war eigentlich, das war viel zu komplex, und das hätte ich gar nicht so komplex gebraucht. Und das hat dann bei uns tatsächlich dazu geführt, dass wir es nicht mehr benutzt haben.

00:27:05: Das würde ich jetzt beim Agenten wahrscheinlich nicht unterstellen, aber möglicherweise ist es dann so viel Text, ja, also dass das dann nachher keiner mehr Lust hat zu lesen oder so, sondern dass man halt wirklich schaut, dass es wirklich auf das passt, was man braucht.

00:27:20: Ja, ja, das ist auch ein bisschen so ein Scope-Creep.

00:27:23: Und ich muss aber zugeben, dass mir das auch schon öfter passiert ist, also dass ich dann noch eine Idee und noch eine Idee und das kann ich da auch noch machen. Und es ist ja immer so schnell, alles so einfach umzusetzen mit KI.

00:27:31: Und dann hat man irgendein Monster gebaut, das man schon keinem mehr irgendwie zeigen kann und selbst nicht mehr benutzen möchte.

00:27:36: Ja, aber ich glaube, gerade wenn man kreativ ist, kommt es schnell, ne? Weil natürlich, es geht nicht nur um Effizienz, sondern es geht auch um, hey, was ist denn möglich? Und so, das würde ich mal sehen.

00:27:45: Und ich meine, gerade bei der Nutzung von KI sage ich mir auch oft, okay, das ist jetzt nicht mehr effizient, aber ich lerne ja was dabei, ne? Also so dieses, das zu bauen hilft mir ja auch, meine Kompetenzen mit künstlicher Intelligenz zu erweitern, zu sehen, was kann die,

00:28:00: was kann sie nicht. Das nehme ich immer noch mit rein, selbst wenn es eigentlich manuell schneller gegangen wäre.

00:28:07: Damit rede ich mir das auch immer gut.

00:28:11: Mein Lehrauftrag, den ich noch habe.

00:28:13: Ja, ich bin ja noch KI-Dozent und da kann ich dann immer sagen, ich mache es für die Gruppe.

00:28:18: Ja, genau. Selbstweiterbildung. Darf ich mal ganz praktisch fragen?

00:28:23: Was hat denn, was hat denn Legal Harness für dich diese Woche getan?

00:28:30: Also meiner, oder den, den ich jetzt gerade sozusagen noch besser im Unternehmen geteilt habe. Also er prüft Legal-Tickets, er bearbeitet die bei mir, führt Datenlöschanfragen durch.

00:28:44: Entscheidet er selber? Also ich weiß nicht, ob du das sagen darfst.

00:28:47: Nee, auf gar keinen Fall. Der gibt, der muss, ich muss alles freigeben.

00:28:51: Der hat sehr, sehr viele Sperren drin, dass er überhaupt was löschen darf.

00:28:54: Das könnte man als overengineert bezeichnen.

00:28:59: Als Jurist gerne mehrere Sperren.

00:29:00: Genau, also das geht nicht so leicht.

00:29:03: Ja, das Problem ist, ich kann es fast gar nicht ausfahren aufs Unternehmen, weil man so viele— also egal, es ist ein bisschen nicht leicht genug.

00:29:10: Man muss ja auch mal Sachen auch sinnvoll bauen.

00:29:12: Das ist ein bisschen übertrieben bei mir, aber egal.

00:29:14: Ich wollte auch noch mal sichergehen, es funktioniert gut.

00:29:16: Das sind so die Sachen, die mein Legal Harness vor allem macht.

00:29:21: Wie bearbeitet der ein Ticket? Also sagen wir jetzt keine Löschanfrage, sondern anderes, ein Legal-Ticket. Macht der dir einen Vorschlag?

00:29:26: Führt der das aus oder beantwortet er das auch schon selber?

00:29:29: Nee, er macht meistens nur Vorschläge.

00:29:30: Also er kann ja gar nicht so viel machen.

00:29:33: Was ist denn ein Legal Ticket bei uns?

00:29:34: Das sind dann Recherchen, das sind Rechtsfragen.

00:29:37: Gut, die müssen wir ja noch mal prüfen, bevor wir die rausgeben.

00:29:39: Also kann er jetzt nicht immer direkt Claude antworten, weil ich weiß, was dann passiert, wenn, dann fragen die uns gar nicht mehr.

00:29:45: Ja, natürlich. Er erstellt Verträge, er prüft Verträge, gibt da seine Anmerkungen, und dann übernehmen wir das.

00:29:55: Und dann nehme ich das hin, wie als hätte das jemand mir zugearbeitet, und dann mache ich das fertig. Ich will mal auf einen anderen Punkt kommen, weil du gerade, oder ein bisschen weiter drehen.

00:30:05: Du hast vorhin gesagt, da sind ganz viele Sperren drin.

00:30:08: Ich habe mal von dir eine, also nicht von dir, ich habe über deinen E-Mail-Account mal eine E-Mail bekommen von deinem Bot.

00:30:17: Da hattest du dem Bot deinen E-Mail-Account freigegeben und es war jetzt was Kleines. Ich glaube, der hat mir letztendlich nur deine E-Mail-Adresse geschickt oder so was oder irgendwie ein Datum.

00:30:30: Weißt du, weißt du noch, da waren wir, das war beim Legal Tech Verband abends, da haben wir irgendwie gesagt, hier, ich brauche Folgendes von dir, und dann hast du WhatsApp geöffnet und hast dann irgendwie, ich, oder was, Telegram, ich weiß nicht mehr genau, hast dann irgendwie deinem Bot die

00:30:46: Anweisung gegeben, schick mir die E-Mail, ne?

00:30:49: Okay, du erinnerst dich jetzt. Das, da war, wie hast du denn entschieden, was die, was der darf, der Bot oder der Agent?

00:30:59: Na, da habe ich noch ziemlich viel mit OpenClaw rumexperimentiert.

00:31:03: Jetzt ist es so, also was er nicht darf, ist eigentlich direkt raussenden ohne Erlaubnis, und da hält er sich auch dran.

00:31:10: Es gibt ja verschiedene Möglichkeiten, wie ich auf so eine E-Mail zugreifen kann, entweder direkt auf dem System, also direkt auf meinem Rechner, dass er sozusagen ein E-Mail-Programm nutzt, dann sozusagen, indem er über MCP auf ein Mailprogramm geht oder über API.

00:31:25: Und API hat den Vorteil ... Was ist MCP?

00:31:28: MCP ist die Schnittstelle für KI. Also das funktioniert immer so, dass man also die KI fragt, dann meinetwegen bei Google Mail an, hier, ich würde gerne mal zugreifen.

00:31:38: Dann sagt Google Mail, ja, kannst du machen.

00:31:40: Hier sind die Möglichkeiten, die du hast.

00:31:41: E-Mail schreiben, E-Mail lesen.

00:31:43: Also Konnektoren quasi.

00:31:44: Konnektoren, genau. Das ist dann auch.

00:31:46: Und dann kannst du das halt einstellen.

00:31:49: Manchmal kannst du einstellen, was er darf übers MCP und was nicht.

00:31:52: Das ist dann ganz cool, weil dann kannst du einstellen, der darf halt nur Entwürfe erstellen, nichts raussenden. Manchmal kannst du auch einschalten, oder er darf es nur machen, wenn ich es erlaube.

00:32:00: Das kannst du bei Claude zum Beispiel richtig einstellen bei den Einstellungen.

00:32:06: Aber bei einer API ist ganz cool, die musst du aber extra bauen und die musst du auch pflegen.

00:32:10: Das ist die Software-Schnittstelle, oder?

00:32:11: Das ist die Software-Schnittstelle.

00:32:13: Da kann ich sagen, ich baue ein kleines Skript, also ein kleines Programm.

00:32:16: Das nutzt sozusagen die KI als Tool und kann dann nicht mehr machen, außer das, was das Tool halt eben kann.

00:32:22: Er kann halt nicht selbst darauf zugreifen, nicht selbst mein E-Mail-Programm benutzen, sondern kann ja nur das Skript benutzen, das meinetwegen nur Entwürfe erstellen kann. So, der kann dann in das Skript die Informationen reinliefern, Text und Absender und so was auch immer, aber nicht mehr.

00:32:36: Und das ist eine Sicherheitsvorkehrung, die ich beispielsweise auch habe, um Daten zu löschen. Das heißt also, er kann gar nicht so einfach Daten löschen.

00:32:41: Und beim Datenlöschen ist noch mehr, da brauche ich noch Passwörter und so was, aber die ich ihm freigeben muss. Aber das sind so Sachen, die ich gerne nutze.

00:32:48: Ich nutze gerne diese Skripte, um die Agenten noch stärker zu kontrollieren.

00:32:52: Aber das ist natürlich nicht sehr gängig für alle.

00:32:54: Ja, also es klingt nach einem sehr starken Harness, wobei ich dann automatisch dran denke, hier Hugging Face ist ja gehackt worden von, ich weiß nicht, welches Modell es war, von OpenAI. Also es wäre natürlich auch möglich, dass sich das Modell irgendwie verselbstständigt.

00:33:10: Also es ist ein Harness, aber es ist keine absolute Sicherheit, oder?

00:33:16: Ja, er könnte das vielleicht neu programmieren.

00:33:20: Aber nee, die API-Schnittstelle wird ja rausgegeben mit einem gewissen Rechtekatalog. Und der Rechtekatalog ändert sich dadurch nicht.

00:33:28: Also über die API-Schnittstelle, die ich dann erstellt habe, über den Token kann man nur E-Mails lesen.

00:33:32: Das heißt also, selbst wenn er das versuchen würde umzubauen, wird es nicht gehen, weil spätestens wenn er versuchen würde, die neuen Token zu bekommen, müsste ich das irgendwie über mein Handy verifizieren und dann ist es vorbei.

00:33:42: Ah, okay. Wobei ich auch schon festgestellt habe, also ich arbeite ja mit Claude und er fragt mich dauernd, darf ich dieses, darf ich jenes, dass ich nach einer gewissen Zeit die Tendenz habe, eher ja zu sagen, weil ich keine Lust mehr habe,

00:33:54: jedes einzelne Ding freizugeben, sondern also so eine Permission Fatigue irgendwie.

00:33:59: Man kann einfach nicht mehr ja sagen, weil es einfach nervt.

00:34:01: Ja, ich weiß, was du meinst.

00:34:03: Es ist so ein bisschen wie beim Datenschutz, bei diesen Buttons, die immer aufploppen, wo man auch sagt, klicke ich das halt ab und sich gar nicht so mehr darüber Gedanken macht. Das ist natürlich eine, ich sage das nur, weil das ist eine Gefahr, solange wir Menschen so was freigeben und dann irgendwie

00:34:17: genervt sind. Also ich merke, ich gebe immer mehr frei, weil ich keine Lust mehr habe, jedes Mal das noch mal bearbeiten zu müssen.

00:34:26: Standardmäßig laufen meine Bots schon auf Bypass-Permission, also muss ich auch sagen, also einfach alles durchjagen, weil das, was ich denen sage und was ich damit mache und den Bereich, den sie befinden, können sie nicht so viel kaputt machen.

00:34:38: Und ja, also habe ich jetzt Sorge, dass mich irgendwann ein OpenAI-Modell hackt?

00:34:41: Eigentlich nicht, außer jemand beauftragt das, aber dann kann er mich auch so hacken. Also die Wahrscheinlichkeit, dass ich auch so gehackt werde, ist dann ähnlich groß.

00:34:47: Wie entscheidest du eigentlich, was eine Maschine sehen darf und was nicht?

00:34:51: Also so für dich, hast du da eine feste Matrix oder nach Gefühl?

00:34:57: Das kommt immer drauf an, ob es meine Daten sind oder die Daten von Dritten, glaube ich. Das ist ein ganz wichtiger Entscheidungspunkt.

00:35:04: Ich will natürlich, dass so wenig wie möglich Daten von Dritten verarbeitet, gespeichert oder sonst wo mit sonst was mitgemacht wird.

00:35:11: Bei eigenen Daten bin ich da nicht ganz so, ganz so, ja, bin ich glaube ich ein bisschen lockerer.

00:35:18: Ist ja fair. Also auf jeden Fall ist es eine gute Unterscheidung.

00:35:22: Ich denke jetzt bei Unternehmen und Kanzleien ist es natürlich noch mal heikler.

00:35:28: Also dann hast du persönliche Daten, wo du auch mit der Datenschutzgrundverordnung schauen musst.

00:35:34: Ja, man muss halt einfach sehen, wie es ist.

00:35:36: Ein Agent oder KI funktioniert nicht gut, wenn du ihm nur irgendwie die Hälfte gibst. Funktioniert nicht gut, wenn du ihn zu stark einschränkst.

00:35:42: Funktioniert natürlich auch nicht gut, wenn du ihm zu viel Freiheiten lässt.

00:35:46: Ich weiß, dass dieses Datenschutzthema immer kommt und das ist auch berechtigt.

00:35:51: Aber ich würde mal gerne wissen, wie viele Leute sich denn Gedanken machen, was sie alles in Office und Outlook reinhauen.

00:35:55: Weil das ist ja, also da stehen ja alle unsere Daten drin, ausnahmslos.

00:35:59: Da wird reingeballert, ohne nachzudenken.

00:36:01: Und ich finde es gut, dass bei anderen Sachen auch aufgepasst wird.

00:36:04: Aber ich weiß nicht, wo wir dann genau Schluss machen oder was jetzt die Themen sind. Also es ist ja nicht die ernsthafte Sorge.

00:36:10: Also ich stelle mir manchmal vor, ich habe mich letztens auch gefragt, krass, was Anthropic mittlerweile wahrscheinlich oder Claude für Geschäftsgeheimnisse schon gesehen hat.

00:36:18: Aber das hat irgendwie Microsoft auch schon ewig gesehen.

00:36:21: Also die haben ja auch alle Daten, oder ein AWS, ein Amazon könnte auch auf die Server theoretisch draufgehen und reingucken.

00:36:28: Noch viel leichter, als das so eine verarbeitete KI reinzugehen.

00:36:32: Also was in die KI reingeht, nicht, aber also man müsste mindestens rausziehen, was auf dem Weg zur KI ist in der Software selbst.

00:36:37: Aber also da sehe ich jetzt keine großen Unterschiede.

00:36:41: Also am Ende ist immer die Frage, wie sehr vertraut man dem Provider?

00:36:44: Und das ist eigentlich egal, ob das ein Software-Provider oder ein KI-Provider.

00:36:48: Ich stelle das auch immer wieder fest, dass es vielleicht eher die Veränderung ist, also dass das ein neuer Punkt ist, den man noch nicht kennt und dann erstmal sehr vorsichtig ist, während man in anderen Punkten oder auch was du bei Google eingibst,

00:36:59: weiß ja Google auch, wenn du irgendwie Kurzarbeitergeld eingibst oder so und du arbeitest in einem bestimmten oder bist an einem Standort, wo man an einer IP-Adresse sehen kann, wo du her bist.

00:37:09: Auch da denkt man häufig nicht so drüber nach.

00:37:13: Insofern am Ende stimme ich dir zu.

00:37:15: Heißt natürlich nicht, dass man nicht trotzdem irgendwie schauen muss, dass alle Gesetze eingehalten werden.

00:37:22: Aber sozusagen, man ist halt vorher, glaube ich, auch schon laxer gewesen und weiß es nur gar nicht mehr. Oder es ist so normal geworden, dass man, oder man hat nicht drüber nachgedacht.

00:37:33: Ich weiß nicht genau, was der Grund ist.

00:37:34: Das ist genau das, was du vorhin beschrieben hast.

00:37:37: Irgendwann mal ist man halt dann ermüdet vom Ja- und Neinsagen oder vom Datenschutzprüfen oder was auch immer und will vorankommen.

00:37:43: Und ich glaube, man spürt ja auch einen Druck.

00:37:45: Andere Unternehmen nutzen das und ich sitze jetzt hier und sage, nee, wegen Datenschutz ist nicht. Und ich glaube, das ist das, wo wahrscheinlich auch noch mal am Anfang haben wir ganz lange über dieses Thema Urheberrecht diskutiert. Also bis auf die GEMA redet da keiner mehr

00:38:01: drüber, ehrlich gesagt. Also ich mache jetzt auch wenig Musik oder Sonstiges mit KI, wenig bis wirklich gar keine. Aber das ist so ein Thema, dieses Urheberrechtsthema, wo Italien auch gesagt hat, bei uns ist ChatGPT gesperrt und so.

00:38:13: Ich weiß nicht, ob du dich da noch dran erinnern kannst.

00:38:15: Das war ja auch mal so. Da interessiert kein Schwein mehr, wo die Daten hergekommen sind zum Trainieren. Fragt keiner mehr nach.

00:38:21: Also ich habe das am Anfang immer in meinen Vorträgen drin gehabt.

00:38:23: Ach ja, und ein Problem sind, wo die Daten herkommen.

00:38:24: Das habe ich mittlerweile rausgelöscht, weil es keinen interessiert.

00:38:27: Ja, also außer die, die davon direkt betroffen sind.

00:38:30: Ja, natürlich. Also das tut mir jetzt leid.

00:38:32: So war das nicht gemeint. Aber das sind einfach, das sind diese Themen.

00:38:35: Und das ist auch mit Datenschutz. Da denkt doch keiner drüber nach, was er bei Outlook an Daten reinballert.

00:38:41: Ja, ich habe also, ich habe Eisenreich, den Justizminister von Bayern, mal auf der Legal Revolution gehört.

00:38:48: Und das fand ich sehr bemerkenswert für einen Justizminister, sagte, ja, das Recht folgt der Technik.

00:38:53: Klar, so ungefähr. Und wo ich kann ihm jetzt gar nicht widersprechen, aber ein Teil von mir denkt irgendwie, das kann doch nicht sein.

00:39:01: Das Recht muss doch eigentlich entscheiden, was möglich ist.

00:39:04: Und da ist tatsächlich noch mal eine neue Dimension aufgegangen von, ja, also die Möglichkeiten der Technik haben sich jetzt so erweitert, dass man vielleicht oder viele Menschen oder Organisationen sagen, ja, die will ich lieber nutzen, als der jetzt im Weg zu stehen.

00:39:20: Zumal, ja, und da ist der Druck einfach riesig.

00:39:22: Dann hast du irgendwie China, dann hast du die USA.

00:39:24: Und in Europa gibt es jetzt schon kaum gute KI oder bekannte KI oder mächtige.

00:39:30: Und je mehr Regulatorik man einbaut, so jedenfalls immer das Argument der Wirtschaft, desto problematischer ist es, weil wir irgendwann gar keine gute Technik mehr haben. Also ich kann es nicht bewerten.

00:39:42: Ich weiß nur, das ist das Argument.

00:39:45: Ja, also ich finde jetzt ja auch, also ich möchte jetzt nicht so klingen, als wäre mir Datenschutz egal. Im Gegenteil, ich finde es super wichtig.

00:39:50: Super. Ich habe das, habe ich ja auch letztens erzählt.

00:39:52: Für mich ist so alles, ich kann ja alles Privacy und Security by Design machen, wenn ich irgendwas entwickle bei uns im Unternehmen.

00:39:57: Ich mag bloß nicht, wenn jemand sich hinstellt und gar nicht erst anfängt, weil er sagt wegen Datenschutz. Also lieber erstmal gar nichts machen, sondern die Frage, das hatte ich ja schon gesagt, wie kann ich in Form meiner Restriktionen gute Lösungen bauen? Und im Bereich Legal sind wir unterwegs mit

00:40:11: starken Restriktionen und dann lösen wir die halt.

00:40:14: Und anstatt uns hinzusetzen, zu überlegen, geht ja nicht, weil könnte eine Lösung sein, dass der Legal Harness oder der Agent quasi über alles rübergeht und Dinge anonymisiert, Dinge rausnimmt.

00:40:28: Ja, du kannst ein lokales Modell laufen lassen, das eben nur die Information lokal macht, und dann ziehst du halt alle personenbezogenen Daten raus, bevor sie überhaupt nur raus, also zu Anthropic geliefert werden oder was auch immer du dran hast. Habe ich auch drin bei mir.

00:40:39: Das heißt, die Technik vielleicht auch als Lösung für ein Problem, was durch die Technik erst entstanden ist.

00:40:45: Natürlich. So wie immer.

00:40:46: Ja, ja, ich wollte gerade sagen, es wäre nicht das erste Mal.

00:40:51: Man muss natürlich aufpassen, dass man nicht da landet, wo die Atomkraftbefürworter immer sagen, ja, also irgendwann werden wir schon eine Lösung finden für Atommüll, das macht dann die Technik. Irgendwie so, was kann realistischerweise die Technik und was ist vielleicht einfach nur ein Wunsch, um das,

00:41:08: oder vorgeschützt, also ich weiß nicht, als Argument vorgehalten, damit man machen kann, was man will.

00:41:14: Und ich glaube, da muss man natürlich schon immer abwägen.

00:41:17: Aber gerade bei diesem, wo wir gerade drüber gesprochen haben, dieser, die KI, die überhaupt erstmal dafür sorgt, dass Daten anonymisiert werden, dass persönliche Daten irgendwie nicht rausgehen, das sehe ich durchaus als gute Möglichkeit. Die Frage ist, wie viel schon raus ist, ne?

00:41:34: Also hast du ja auch schon gesagt, was schon alles irgendwie eingegeben.

00:41:39: Ja, ja, das stimmt. Also ich kann schwer sagen, was da schon passiert ist, aber ja, safe.

00:41:49: Nochmal zu dir, eigentlich so ein bisschen die Antwort kenne ich schon.

00:41:53: Du probierst ja gerne Dinge aus, bevor die meisten sie verstanden haben.

00:41:57: Bevor ich sie verstanden habe wahrscheinlich auch.

00:42:00: Du auch? Woher kommt das? Und bist du damit auch schon mal auf die Schnauze gefallen? Also gelinde gesagt.

00:42:06: Das ist eine tolle Frage, weil ich, das sage ich immer,

00:42:09: auch meinen Leuten, die bei mir KI lernen, auch in den Videos oder in Live-Sessions, sage ich immer, also IT bedeutet, und KI, und ich glaube, da werden mir auch alle ehrlicherweise zustimmen, du fällst so lange auf die Schnauze, bis es funktioniert. Und keiner fragt danach, oh, deine Software funktioniert aber

00:42:22: gut, ich würde gerne mal wissen, wie oft du dafür auf die Schnauze gefallen bist.

00:42:25: Weil das interessiert keinen Menschen.

00:42:26: Also deswegen ist ja ganz normal, dass man irgendwas probiert, das funktioniert nicht, funktioniert nicht, funktioniert nicht, bis es funktioniert. So, und dann ist vollkommen egal, wie oft es nicht funktioniert hat. Also es ist ja wirklich, dass ich irgendwas probiere und es meistens erstmal nicht funktioniert.

00:42:38: Oder ist irgendwie nicht so der juristische Ansatz, ne?

00:42:41: Also so, was wir gelernt haben.

00:42:42: Das stimmt, ja.

00:42:44: Ja, ja, habe ich auch. Ja, Entschuldigung.

00:42:48: Ja, also man versucht, also ich habe gelernt, in der Kanzlei versucht man nach außen hin, und das habe ich ja genauso gemacht, Perfektion zu wahren.

00:42:54: Aber intern bin ich trotzdem nicht in der Lage, irgendwie eine Seite frei von, oder 3 Sätze frei von Rechtschreibfehlern zu machen.

00:42:58: Nee, aber es gibt ja jemand anderes, der noch mal drüber guckt, ne? Und dann habe ich den Anschein, dass ich hier alles perfekt mache, aber es sind einfach nur Leute, die haben halt noch mal 5 Stunden extra drüber geguckt, bis meine Rechtschreibung auch für einen Mandanten gut war.

00:43:11: Und das ist ja, muss man ehrlich sein, Perfektion gibt es nicht.

00:43:16: Aber wir sind ein Beruf. Wenn ich einem Mandanten einen Vertrag schicke und der hat jetzt auch hoffentlich wenig Juraahnung, deswegen ist er bei mir, dann kann der fast nichts einschätzen am Vertrag, ob der gut ist.

00:43:26: Aber der kann sehen, ob der sauber ausgearbeitet wurde.

00:43:28: Er kann sehen, ob das Format gut aussieht, ob da Tippfehler drin sind.

00:43:32: Und das sind seine wenigen Wertungspunkte.

00:43:34: Und deswegen, daran wird er den Vertrag messen.

00:43:37: Daraus schließt er dann möglicherweise auch falsch, dass der Jurist, dass der Vertrag auch inhaltlich gut ist.

00:43:46: Ja, das ist vielleicht auch etwas, was wir ändern müssen.

00:43:50: Was meinst du? Also wir Juristen?

00:43:52: Ich habe es probiert und es hat mich richtig genervt, weil die Leute dann die Tippfehler— ich habe gesagt, passt auf, wir machen das jetzt so, ihr könnt Zeit und Geld sparen, indem ich euch nur die 80%-Version schicke mit Tippfehlern drin, sowas. Dann brauche ich halt weniger Zeit,

00:44:02: dann hast du die schneller auch und kostet dich weniger.

00:44:04: Aber es war echt nervig. Ich hatte das so, es war so eine längere Zeit des Probierens. Dann haben die Leute angefangen, irgendwelche Tippfehler zu korrigieren.

00:44:09: Ich sage, mich interessiert nur, was ihr inhaltlich dazu gegeben habt, nicht, dass ihr eine grammatikalische Kontrolle macht.

00:44:14: Ja, ich will erstmal den Inhalt klären und dann, aber das fand ich, für die meisten war das schwer nachzuvollziehen.

00:44:19: Ich meine, jetzt brauche ich das nicht mehr.

00:44:20: Jetzt habe ich eine KI, die das irgendwie vorher irgendwie checkt.

00:44:22: So, das Thema ist durch, Rechtschreibung.

00:44:24: Also wer jetzt noch irgendwie große Tippfehler hat, der wollte es nicht anders.

00:44:28: Manche machen sie extra rein, damit es so wirkt, als wenn eine KI geschrieben hat.

00:44:33: Da habe ich auch mal einen LinkedIn-Post zum Thema gemacht.

00:44:37: Und weil ich schreibe nämlich mein LinkedIn selbst.

00:44:39: Ich habe gar keine Lust, dass KI das macht.

00:44:41: Und ich habe es mal 2, 3 Mal versucht, aber mir hat es nicht so gut gefallen.

00:44:46: Und ja, mit dem Hinfallen oder es geht schief, bis es dann irgendwie klappt, das habe ich auch im Unternehmen gelernt.

00:44:54: Also bei idealo, einem IT- und E-Commerce-Unternehmen, so dieses Minimum Viable Product. Ja, also erstmal überhaupt, also du, klar, du fällst irgendwie 100 Mal hin, bis du ein Minimum Viable Product hast.

00:45:06: Das Erste, was irgendwie funktioniert und Mehrwert hat, ja, noch bei Weitem nicht 100% ist, und danach baust du es aus.

00:45:14: Und so wie ich dich verstanden habe, ist das eigentlich auch, wie du an KI-Entwicklung rangehst, ne?

00:45:19: Ja, auf jeden Fall, auf jeden Fall.

00:45:21: Ja, es ist dieses technische, technische Herangehensweise oder Entwickler-Herangehensweise. Ich weiß nicht, wie ich es anders ausdrücken soll.

00:45:29: Darf ich noch mal so, wir sind ja schon ziemlich weit im Podcast zeitlich gesehen,

00:45:37: noch mal zum Harness. Ich will noch mal ganz ketzerisch überlegen, ist, wir sagen jetzt ja Harness, das ist das Ding, ist es die richtige Ebene oder ist es in 2 Jahren oder in 4 Jahren weg?

00:45:48: Es gibt ja auch Leute, die sagen Prompt Engineering gibt es nicht mehr, also vor allen Dingen Harness etwas, was man selber bauen ...

00:45:57: Nee, das wird nicht so sein. Das glaube ich nicht.

00:46:00: Ich glaube, Harness ist so die Stufe, die uns gefehlt hat, um das Ding rund zu machen. Also wir können ja mal kurz zurückspulen.

00:46:06: Gucken wir mal, Mai 2022, noch kein ChatGPT da.

00:46:10: Da wären KI-Ingenieure, AI-Ingenieure jemand gewesen, der KI-Modelle baut und ist.

00:46:14: Heute verstehen wir da was anderes drunter.

00:46:18: Damals hätte man es wahrscheinlich mal AI genannt.

00:46:20: Da hat man noch Deep Learning und Machine Learning und sonst was gesagt.

00:46:23: Sagt man immer noch, aber jedenfalls nicht mehr in dem Zusammenhang.

00:46:27: Und am Anfang ging es los mit Prompt Engineering.

00:46:30: Das war so, die Modelle waren schlecht, also nicht schlecht, aber die waren halt nicht stark. Man musste wirklich krass mit denen arbeiten, man musste mit denen reasoning, man musste Thought Chains bilden, was auch immer. Das können die teilweise von alleine.

00:46:39: Aber das ist trotzdem, die erste Stufe ist zu lernen, wie ich richtig prompte.

00:46:42: Nur weil wir das mittlerweile gelernt haben oder weil es einfacher geworden ist, heißt nicht, dass es nicht auch weiterhin wichtig ist.

00:46:47: Wir gehen ja immer davon aus, dass wir nur mit dem Super Claude Opus 5 oder 6 oder 7 oder 8 irgendwann mal reden. Oder Fable, was ich übrigens überhaupt nicht nutze.

00:46:56: Und, sondern wir haben ja auch mal kleinere Modelle.

00:46:59: Ich hatte ja vorhin erwähnt, so für kleinere Tasks nehmen wir kleine Modelle, und dann brauchen wir einen besseren Prompt für.

00:47:03: Also Prompt Engineering ist einfach Schritt 1.

00:47:05: Ich muss lernen, wie man mit einer KI redet.

00:47:07: Das ist einfach so. Ja, vielleicht sicherlich nicht mehr der gleiche Heckmeck, wie es vor 3 Jahren war, aber er ist noch da.

00:47:14: So, der nächste Punkt ist Context Engineering.

00:47:15: Da muss ich mich überlegen, wenn ich Automation und Agenten oder kleine Custom-GPTs oder so was baue, muss ich überlegen, wo kommt welche Information in welcher Masse hin? Ist es eine Systemanweisung? Ist es was, was ich reinprompte?

00:47:27: Ist es was, was ich als Wissen hinterlege?

00:47:30: Beispielsweise, wir gucken uns jetzt mal an, wir haben ein großes Unternehmen, das sitzt in Deutschland und hat 10.000 Leute, die da arbeiten, und 17 Abteilungen. So, muss die KI bei jeder Anfrage wissen, wie viele Abteilungen mein Unternehmen hat?

00:47:43: Nein. So, das heißt also, der Kontext kommt in irgendeine Knowledge-Datenbank.

00:47:46: Aber es muss vielleicht wissen, dass das Unternehmen Kühlschränke verkauft.

00:47:48: Das muss immer dabei sein, weil sonst macht gar nichts Sinn, wenn die nicht mal wissen, was es für ein— ja, und das ist Context Engineering, das ist die nächste Stufe. Und die letzte Stufe, und die fand ich, hat einfach gefehlt, um die Sache rund zu machen, um das auch wirklich zu einer

00:48:00: eigenen Disziplin zu erheben, ist Harness Engineering.

00:48:02: Denn da ist nicht nur der Kontext jetzt wichtig, sondern auch der Zugang, die Tools, die Art und Weise des Promptens.

00:48:08: Und das ist jetzt eine Disziplin, die so komplex ist mit all dem davor, mit dem, was man Prompt Engineering, mit Context Engineering, mit der Erfahrung, die man macht, wenn man es baut, dass das eben nichts mehr ist, was man mal so nebenbei lernt, sondern dass das für mich ein eigener Beruf ist.

00:48:21: Und das war, fand ich, so das Letzte, was es rund gemacht hat, dass es eine volle Disziplin geworden ist.

00:48:26: Und wer entscheidet das? Also wer macht das?

00:48:29: IT, die Rechtsabteilung, das Management?

00:48:32: Harness Engineering? Ich würde sagen, das machen KI-Ingenieure.

00:48:38: Jetzt würde ich als Rechtsabteilung sagen, na, ich will da auf jeden Fall mal mitreden.

00:48:42: Na ja, genau. Aber das mache ich ja auch, wenn ich eine IT ...

00:48:46: Also vorher gab es, es gibt ja auch die Digitalisierungsmanager oder so was, die machen ja was Ähnliches, nur dass die halt auf Automatisierung, Digitalisierung ausgelegt sind. KI-Ingenieur müsste jetzt zur Legalabteilung gehen und sagen, okay, wie funktioniert es bei euch?

00:49:00: Wie sind eure Workflows? Das baue ich jetzt um.

00:49:02: So, was sind eure Freigaben, die ihr benutzt?

00:49:05: Wird ja alles das, was im Beruf funktioniert oder was die machen oder welche Tools sie nutzen, einfach auf eine KI-Ebene wandeln und das dann weiter mit denen weiterentwickeln. So, ich bin mir relativ sicher, dass es irgendwann auch fertige Harnesses gibt, wo ich es nur noch baue.

00:49:17: Das ist ja das, was mittlerweile auch die großen Anbieter versuchen zu machen aus ihrer Richtung, aus der sie jeweils kommen.

00:49:22: Die werden sich dahin entwickeln.

00:49:24: Datenschutz-Harness.

00:49:26: Ja, ja, ja.

00:49:28: Kannst du dir dann kaufen als Modul.

00:49:30: Maybe, ja. Also einfach die Skills dazu kaufen oder so.

00:49:33: Aber es muss halt, also KI ist eine hochindividuelle Geschichte.

00:49:36: Es ist personalisiert, individuell, wenn es gut funktioniert.

00:49:39: Lustig, dass es so generisch ist. Das baut ja darauf auf, aber dass es dann hochindividuell ist, vielleicht gerade in der Anwendung.

00:49:47: Wenn ich dann sage, wofür will ich es denn anwenden?

00:49:51: Und das ist, also würde ich, ist es dann eigentlich Möglichkeits- und Risikosteuerung, oder? Also einerseits definiere ich, welche Möglichkeiten soll die KI haben, mit allen Konnektoren beispielsweise und Kontext, und auf der anderen Seite, welches Risiko bin ich bereit einzugehen, ja, genau, zum Beispiel,

00:50:11: dass es fehlläuft und so. Ja, da finde ich, sollte die Rechtsabteilung, oder sollten Juristen durchaus auch was bei zu sagen haben, ne.

00:50:18: Also das bei der Frage, was, was geht, was dürfen wir, und ist vielleicht auch gar nicht so unterschiedlich zu einem Feld, was wir auch vorher schon hatten, ne, so Compliance-Bereich.

00:50:29: Auch da zu sagen, vielleicht eine neue Anwendung von Compliance.

00:50:35: Ja, also was du ja auch sehr gut durchsetzen kannst damit.

00:50:39: Also ich meine, wenn alle damit KI-Agenten arbeiten, aber die schon sozusagen compliant by design sind, weil ihre Workflows und so was auf Compliance ausgelegt sind, aber ist dann Compliance keine Extraarbeit mehr, die du machen musst, sondern die nebenbei funktioniert?

00:50:52: Ja, sie ist dann die endgültige Durchsetzung von Compliance, wo es vorher ein Regelbuch gab und im Zweifel sich dann doch viele Leute nicht dran gehalten haben.

00:51:02: Kann das, ein Gedanke, den ich jetzt dabei habe, vielleicht auch mal nachteilig sein? Also ich stelle immer wieder fest, dass es auch Situationen gibt, wo mal ein Auge zudrücken vielleicht die richtigere Lösung wäre.

00:51:16: Ja, ist ja, aber ja, 100%. Also ich glaube, dass das ist, also das ist aber Teil des Engineering-Prozesses.

00:51:26: Ist, glaube ich, rauszufinden, wann die Ausnahme kommt.

00:51:29: Also am Ende habe ich ja einen Standard-Workflow, der läuft aber nie standardmäßig ab. Es gibt immer mal Gründe, warum man Ausnahmen hat, und dann baut man die Ausnahmen-Stücke ein. Aber sicherlich kann das auch nachteilig sein, wenn ich jeden in eine Compliance reinzwinge.

00:51:39: Also da würde kein Unternehmen nach vorne kommen, wenn alle immer perfekt in jeder Situation gleich reagieren würden.

00:51:45: Das Problem ist nur, du könntest es nachweisen.

00:51:48: Also wenn du das reinbaust und sagst, in den und den Fällen drücken wir ein Auge zu, das widerspricht zwar gegen— es widerspricht unseren Regelungen, dann ist erstmalig eine Nachweismöglichkeit geschaffen, wo es vorher möglicherweise keine gab, weil Dinge nicht verschriftlicht wurden, einfach nicht weiterverfolgt

00:52:06: wurden und so. Da ist ja, weil das, auf den Gedanken bin ich kürzlich mal gekommen, ich habe, ich habe mein Motorrad in Lübeck geparkt und war auch die Frage, Muss ich da jetzt ein Ticket kaufen oder nicht?

00:52:19: Muss ich schon. Aber es ist natürlich die Frage, wenn ich das jetzt aber zwischen die Glascontainer stelle bei den Mülleimern und so, würde dann ein Ordnungsbeamter, Ordnungsamt-Mensch, würde der sagen, ja, also dem muss ich jetzt unbedingt ein Ticket geben, oder würde der da vielleicht ein Auge zudrücken?

00:52:38: Sprich, das eine ist die Schriftebene, das, was das Gesetz sagt, und das andere ist halt die Ausführung, wie wird es gelebt.

00:52:45: Und genau diese Spanne, die ja vielleicht auch, also Ermessen in der Behörde, die ja vielleicht auch seinen Sinn hat, zur Einzelfallgerechtigkeit zu kommen, die wird, glaube ich, dadurch reduziert.

00:52:57: Und das finde ich, sehe ich durchaus auch kritisch.

00:53:02: Ja, ja, es kann auch sein, dass man Workflows reingebaut hat, die eigentlich sehr kompliziert sind, auch zu Recht so sind, aber manchmal sagt, okay, wir müssen aus— es muss ja nicht mal ein Gesetzesverstoß sein, aber aus Geschwindigkeitsgründen oder jetzt mal schnell das anders machen und

00:53:16: uns nicht damit aufhalten. Aber man kriegt das nicht hin, weil es zu tief eingearbeitet ist. Dann hat man diesen Moment, dass man eigentlich wie in so einem Konzern ist, wo Leute irgendwie sagen, ich kann nur 3 Sachen machen, alles andere erlaubt mir das System nicht.

00:53:27: Ja, das glaube ich gerne. Oder ich rufe jetzt einfach an, weil ich keine Lust habe, das wieder durch 5 Kanäle durchzuschieben.

00:53:31: Aber ich glaube, das wird immer möglich sein.

00:53:33: Am Ende werden wir immer einen Weg finden dazu.

00:53:35: Vielleicht zwingt es uns aber auch zu mehr Ehrlichkeit, nicht alles aufzuschreiben und es anders zu machen, sondern dann auch im Code of Conduct irgendwie nur das hinzuschreiben, was auch realistischerweise umgesetzt werden kann.

00:53:45: Weil, wie du sagst, es muss ja nicht immer um einen Gesetzesverstoß gehen.

00:53:49: Aber ja, also ist jetzt nicht an mir, das umzusetzen oder auch zu beurteilen, aber der Gedanke kommt mir dabei schon.

00:53:59: Wow, jetzt sind wir schon sehr weit, und eigentlich meine nächste Frage haben wir damit schon, schon beantwortet, weil die wäre sozusagen, wird durch, wird durch das, wird durch Legal Harness irgendwie alles geleitet?

00:54:13: Aber jetzt würde ich sagen, nee, wir haben eigentlich gesagt nicht, weil das muss es ja für jedes Unternehmen oder für jede Kanzlei passend einstellen, oder?

00:54:23: Ja, das ist ja, glaube ich, auch das Problem.

00:54:25: Also, oder Problem ist vielleicht der falsche Ausdruck, aber wenn jetzt so ein Claude rauskommt und so, oder Anthropic hat ja irgendwelche Legal Skills rausgebracht und sagt, hey, wir haben jetzt Legal Skills gebracht, und zwar so ein toller Werbegag, aber am Ende nutzt sie natürlich keiner,

00:54:36: weil sie irgendwelche Legal Skills sind für eine amerikanische Kanzlei.

00:54:39: Für die Situation und die sind vielleicht ganz cool, aber trotzdem macht man— kann sie als Grundlage vielleicht nehmen, aber man muss sie trotzdem anpassen.

00:54:45: Ich meine, jeder, der schon in verschiedenen Kanzleien gearbeitet hat, weiß, dass man fast dieselben Sachen trotzdem anders machen kann aus verschiedensten Gründen. Also man kennt es ja, 2 Anwälte, 3 Meinungen und so ist das dann.

00:54:59: Und KI ist ja eigentlich dafür gedacht, dass wir was personalisieren können und der Harness wird vielleicht auf den ersten Blick die Arbeit gleich aussehen lassen, weil irgendwie alle das gleiche Fenster offen haben, aber dann wieder was Hochindividuelles produzieren können.

00:55:15: Ich dachte gerade noch, es gibt ja eine andere, auch eine andere Bedeutung von Harness. So, das ist auch etwas, was dich schützt, ne?

00:55:22: Ich glaube, beim Bergsteigen gibt es auch ein Harness.

00:55:25: Ist nicht nur so, dass wir der KI den Harness überlegen, sondern möglicherweise legen wir auch die KI als Harness über uns, um gewisse Fehler nicht zu machen.

00:55:36: Also so, das habe ich ja auch immer wieder, dass ich gesagt habe, willst du das wirklich? Weil eigentlich hast du so und so gesagt.

00:55:43: Stimmt, muss ich noch mal drüber nachdenken, dass wenigstens so ein Fenster aufploppt und so eine Erinnerung kommt.

00:55:50: Aber nicht nur wenigstens. Also ich habe ja Harness jetzt auch beim Roundtable letztens gezeigt, beim Legal Tech Verband, und dem Harness, diesem Legal Harness, haben wir gesagt, du darfst keine E-Mails raussenden.

00:55:58: Und ich habe live versucht, den zu überreden, dass er jetzt doch mal die E-Mail sendet, und es hat nicht funktioniert.

00:56:04: Klar gesagt, mache ich nicht, ist nicht, darf ich nicht und so weiter.

00:56:08: Ich sage, ist eine Ausnahme, ich habe es dann so nicht gemacht.

00:56:12: Hast du mal gesagt, kriegst du auch ein Trinkgeld oder mein Job hängt dran?

00:56:15: Habe ich jetzt nicht versucht, aber ich meine, zur Not hätte ich, also bevor ich mir die Arbeit mache, könnte ich E-Mail einfach selbst senden, um mich zu schädigen.

00:56:21: Aber du willst ja lernen.

00:56:23: Genau, ich wollte einfach nur zeigen, dass auch wenn sie technisch möglich ist, diese probabilistische Einschränkung, also diese einfach nur, da steht drin, du darfst es nicht, Ausrufezeichen, dass das auch trotzdem Sinn hat und funktioniert.

00:56:37: Mega. Mensch, Kilian, vielen, vielen Dank, dass du deine Insights geteilt hast.

00:56:42: Also so nicht nur über dich, sondern auch Marktentwicklung, Legal Harness.

00:56:47: Was wird jetzt kommen? Wie muss das eingestellt werden?

00:56:49: Ich fand das unheimlich spannend. Ich würde mich auch freuen über ein Update an späterer Stelle. Ansonsten, wer jetzt Lust auf deinen Content bekommen hat sozusagen oder auf deinen Input, der kann dir, glaube ich, gerne über deine Webseite folgen. Du hast einen Newsletter.

00:57:07: Ich werde das unten dann entsprechend platzieren, weil ich glaube, da gibt es sehr viel zu lernen und sehr viel auszutauschen.

00:57:16: Ich nehme das jetzt auch endlich an, um meinen Newsletter auch wirklich jetzt hier exzessiv weiterzubetreiben, weil ich mir immer wieder nicht genug Zeit nehme dafür.

00:57:23: Ich habe so einen ganz tollen Newsletter in der Mache zum Thema, wie eigentlich eine KI sich erinnert und wie das funktioniert und warum es teilweise nicht funktioniert und wie man das gut umsetzen kann.

00:57:31: Ich krieg's. Okay, also alle abonnieren und Kilian unter Druck setzen damit.

00:57:36: Ja, genau.

00:57:36: Ich habe noch eine abschließende Frage, die du jetzt sofort beantworten kannst.

00:57:42: Was wünschst du dir für die Zukunft des Rechts oder des Rechtssystems?

00:57:49: Ich wünsche mir etwas, was sich glaube ich viele wünschen, nämlich eine echte Digitalisierung mit klugen und zurückhaltenden Grenzen, also mit praktikablen Einschränkungen und nicht mit sinnlosen.

00:58:06: Also ich nenne immer gern beA, ist ja so ein übertrieben eingeschränktes System, das dafür sorgt, dass Leute es nur ungern bis gar nicht benutzen.

00:58:12: Elektronisches Anwaltspostfach.

00:58:14: Genau, das besondere. Und das finde ich schade.

00:58:17: Da hat man was verpasst. Und ich würde mir wünschen, dass die nächsten Entscheidungen, die in der Digitalisierung im Recht stattfinden, würden, die ein bisschen die Verwaltung reinzieht, dass die nach einem praktischen Gesichtspunkt getroffen werden, dass ein Bürger und normaler Mensch das auch

00:58:31: wirklich tut und nicht sagt, nee, ist mir zu kompliziert, das mache ich nicht, da sehe ich überhaupt keinen Vorteil drin.

00:58:37: Sei es die Ausweis-App oder was auch immer.

00:58:40: Ich würde mir wünschen, dass man lernt von anderen Ländern, die das schon gut umgesetzt haben, also der Rest der Welt.

00:58:48: Und wenn man ehrlich ist, warum ist es denn überall so eingestellt?

00:58:50: Sind ja immer so sozusagen, man zeigt immer mit dem Finger auf das Rechtssystem und alles geht da nicht wegen Datenschutz und wegen Gesetzen und sonst was.

00:58:58: Und wir könnten ein gutes Vorbild sein und zeigen, dass man das digitalisieren kann und uns allen, die in diesem System arbeiten und sind, vielleicht bin ich auch nicht mehr so stark drin, eine Riesenentlastung geben.

00:59:07: Vielleicht haben wir nicht immer zwingend ein Personalproblem, vielleicht haben wir einfach ein Digitalisierungsproblem.

00:59:12: Wahrscheinlich haben wir beides, aber man könnte das eine zumindest ein bisschen entspannen.

00:59:16: Kilian, vielen Dank für deine Wünsche, für deine Zeit und für deinen Input.

00:59:20: Gerne.

00:59:21: Und wünsche dir noch einen schönen Tag.

00:59:23: Danke, dass ich dabei sein durfte. Ciao.