localwriter: Eine LibreOffice Writer-Erweiterung für lokale generative KI
LibreOffice ist ein datenschutzorientiertes Office-Paket, das auf dem eigenen Computer läuft und keine KI-Funktionen enthält, die sofort einsatzbereit sind. Aber wir wissen, dass viele Nutzer daran interessiert sind, KI-Tools mit der Suite zu kombinieren. Deshalb haben wir mit John Balis gesprochen, der an einer (vollständig optionalen!) LibreOffice-Erweiterung namens localwriter arbeitet. Hier ist, was er zu sagen hatte…
Was bewirkt die Erweiterung?
Localwriter ist eine libreoffice Writer-Erweiterung, die eine generative Inline-Bearbeitung mit lokaler Auskunft ermöglicht. Sie kann mit jedem Sprachmodell verwendet werden, das von Ollama oder text-generation-webui unterstützt wird. Diese Erweiterung fügt dem LibreOffice Writer zwei leistungsstarke Befehle hinzu:
- Auswahl erweitern – Verwendet ein Sprachmodell, um vorherzusagen, was nach dem ausgewählten Text kommt. Es gibt viele Möglichkeiten, dies zu nutzen. Einige Anwendungsfälle sind beispielsweise das Schreiben einer Geschichte oder einer E-Mail nach einer bestimmten Aufforderung, das Hinzufügen weiterer möglicher Elemente zu einer Einkaufsliste oder das Zusammenfassen des ausgewählten Textes.
- Auswahl bearbeiten – Es wird ein Dialogfeld angezeigt, in dem der Benutzer aufgefordert wird, Anweisungen zur Bearbeitung des markierten Textes zu geben; anschließend wird der markierte Text durch den bearbeiteten Text ersetzt. Einige Beispiele für Anwendungsfälle hierfür sind das Ändern des Tons einer E-Mail, das Übersetzen von Text in eine andere Sprache und die semantische Bearbeitung einer Szene in einer Geschichte.
Wann haben Sie angefangen, daran zu arbeiten?
Ich habe im Juli 2024 mit der Arbeit an localwriter begonnen, weil ich ein KI-Tool wollte, das mich beim Schreiben unterstützt und von den Vorteilen der Verfügbarkeit (kein Zugriffsverlust), Vertraulichkeit (keine Datenverluste) und Integrität (keine überraschenden Modellversionsänderungen) profitiert, die sich aus der Verwendung eines vollständig quelloffenen lokalen KI-Stacks anstelle einer API eines Drittanbieters ergeben. Meiner Meinung nach ist es wirklich wichtig, das Lernen zu begreifen, um von künstlicher Intelligenz zu profitieren, ohne die Handlungsfähigkeit zu opfern, und diese Software folgt diesem Gedankengang.
Wo liegen die derzeitigen Grenzen, und was kommt als Nächstes?
localwriter unterstützt derzeit nur LibreOffice Writer, obwohl die Unterstützung von Calc in der Entwicklung ist und in der nächsten Version angeboten werden soll. Eine weitere Einschränkung ist, dass es kein Streaming unterstützt und keine „Chat mit Dokument“-Funktion bietet.
Wie können andere zur Verbesserung beitragen?
Im Repository gibt es eine Menge offener Funktionsanfragen von mehreren Nutzern, die für einen erfahrenen LibreOffice-Erweiterungsentwickler wirklich einfach zu erledigen sein sollten. Ich kann jedem Interessierten leicht eine Aufgabe zuweisen, an der er arbeiten kann. Tests wären willkommen, da es derzeit keine Tests gibt. Außerdem hilft eine Spende mir, meine eigene Zeit für die Entwicklung zu verwenden.