Assistent ERI Server

English: Assistant ERI Server

Der Assistent „ERI-Server“ (Beta) erzeugt aus Ihrer Beschreibung den Code eines ERI-Servers. ERI, das External Retrieval Interface, verbindet AI Studio mit den Daten Ihrer Organisation: Sie betreiben einen ERI-Server neben Ihren Daten, und AI Studio nutzt ihn als Datenquelle; siehe Datenquellen. Der Assistent richtet sich an Entwicklerinnen, Entwickler und IT-Abteilungen, die einen solchen Server bauen.

Einschalten

Der Assistent gehört zu den Datenquellen, einer Beta-Funktion. Unter „Einstellungen“ → „App-Einstellungen“:

1. Wählen Sie unter „Sichtbarkeit der Vorschaufunktion“ die Option „Auch Beta-Funktionen anzeigen: Diese sind fast fertig zur Veröffentlichung; es können jedoch noch Fehler auftreten.“
2. Wählen Sie unter „Vorschaufunktionen auswählen“ die Funktion „RAG: Vorschau auf unsere RAG-Implementierung, mit der Sie auf Ihre Dateien zugreifen oder Unternehmensdaten in Ihrem Unternehmen integrieren können“.

Seine Kachel erscheint dann unter „Software-Entwicklung“.

Voreinstellungen und automatisches Speichern

Unter „ERI-Server-Voreinstellungen“ bewahren Sie für jeden ERI-Server, für den Sie verantwortlich sind, eine Konfiguration auf. „ERI-Server-Voreinstellung hinzufügen“ legt eine an; klicken Sie sie in der Liste an, um sie zu bearbeiten. „Diese Server-Voreinstellung löschen“ entfernt die gewählte nach einer Rückfrage.

Ist „Sollen wir sämtliche Eingaben automatisch speichern?“ eingeschaltet, speichert der Assistent jede Änderung in der gewählten Voreinstellung. Voreinstellungen und automatisches Speichern brauchen „ERI-Serveroptionen vorauswählen?“ in den Optionen des Assistenten; der Schalter ist von Anfang an eingeschaltet.

Ihren Server beschreiben

Gehen Sie die Abschnitte des Formulars durch:

• „Allgemeine ERI-Server-Einstellungen“:
  • „ERI-Servername“ (6 bis 60 Zeichen) und „ERI-Serverbeschreibung“ (32 bis 512 Zeichen). Beides sehen die Nutzerinnen und Nutzer in AI Studio; sagen Sie also, welche Daten der Server liefert und wofür.
  • „Programmiersprache“, zum Beispiel C#, Java, Python oder Rust. Mit „Andere“ geben Sie eine beliebige Sprache ein.
  • „ERI-Spezifikations-Version“: Wählen Sie V1. „Spezifikation herunterladen“ öffnet die Spezifikation.
• „Datenquellen-Einstellungen“: wo Ihre Daten liegen, zum Beispiel „Dateisystem (lokal oder Netzwerkfreigabe)“, „Relationale Datenbank, wie MySQL, PostgreSQL usw.“ oder „Benutzerdefinierte Beschreibung“. Bei einer Datenbank oder einem Speicherdienst geben Sie außerdem Produktname, Hostnamen und Port an.
• „Authentifizierungs-Einstellungen“: „Authentifizierungsmethode(n)“, von keiner Anmeldung für öffentliche Daten über eine Anmeldung per Token oder mit Benutzername und Passwort bis zur einmaligen Anmeldung (SSO) mit Kerberos. Wählen Sie mehrere Methoden, beschreiben Sie, wie sie genutzt werden sollen. Für Kerberos wählen Sie außerdem das Betriebssystem des Servers.
• „Datenschutzeinstellungen“: „Zulässige LLM-Anbieter für diese Datenquelle“, jeder Anbieter oder nur selbst betriebene. Der Server teilt diese Wahl AI Studio mit, das seine Daten dann nur solchen Anbietern gibt.
• „Einbettungs-Einstellungen“ (optional): „Einbettungsmethode hinzufügen“ beschreibt eine Einbettungsmethode, die Ihr Server nutzt: Name, Art, Beschreibung und wann sie zum Einsatz kommt.
• „Datenabruf-Einstellungen“: „Abrufprozess hinzufügen“ beschreibt, wie Ihr Server die Passagen findet, die eine Frage beantworten, mit optionalen Parametern und den Einbettungsmethoden, die er nutzt. Beschreiben Sie mindestens einen; bei mehreren können die Nutzerinnen und Nutzer wählen.
• „(Optional) Zusätzliche Bibliotheken“: Bibliotheken, die der Code nutzen soll, und wofür. Modelle erfinden mitunter Bibliotheken, die es nicht gibt; prüfen Sie sie also.

Den Server erzeugen

1. Wählen Sie unter „Anbieterauswahl für die Generierung“ einen Anbieter. Die Aufgabe braucht ein sehr leistungsfähiges Modell; kleine lokale Modelle reichen vermutlich nicht.
2. Entscheiden Sie unter „Code in das Dateisystem schreiben“, ob AI Studio den Code auf die Festplatte schreibt. Wenn ja, wählen Sie das „Basisverzeichnis, in dem der Code gespeichert wird“.
3. Klicken Sie auf „ERI-Server erstellen“.

Das Modell listet zuerst die Dateien des Servers auf, schreibt sie dann einzeln und erklärt zum Schluss, wie Sie den Server kompilieren und starten. Das dauert eine Weile und braucht viele Anfragen; AI Studio hält die Ratenlimits Ihres Anbieters von selbst ein. Das ganze Gespräch erscheint auf der Seite. „Im Chat öffnen“ setzt es in einem Chat fort, im Arbeitsbereich „ERI Servers“. „Ergebnis kopieren“ kopiert nur die letzte Antwort.

Auf die Festplatte schreiben

AI Studio schreibt nur innerhalb des Basisverzeichnisses. Erzeugen Sie erneut, löscht es zuerst die Dateien, die es beim letzten Mal geschrieben hat; Ihre eigenen Dateien bleiben, es sei denn, das Modell schreibt eine Datei mit demselben Namen. Vor dem Schreiben oder Löschen fragt AI Studio nicht nach. Führen Sie das Basisverzeichnis darum in einem Git-Repository und committen oder verwerfen Sie alle Änderungen vor jedem Durchlauf.

Optionen

In „Assistent: ERI-Server-Optionen“ ermöglicht „ERI-Serveroptionen vorauswählen?“ Voreinstellungen und automatisches Speichern und lässt Sie ein Mindestvertrauen und ein Profil wählen. Die übrigen Einstellungen liegen in den Voreinstellungen des Assistenten.

Tipps

• Der erzeugte Code ist ein Ausgangspunkt. Prüfen Sie ihn, bevor er mit echten Daten arbeitet, vor allem die Anmeldung und den Datenschutz.
• Vergleichen Sie die Dateien auf der Festplatte mit der Dateiliste in der Antwort und ergänzen Sie Fehlendes von Hand oder mit dem Assistenten Programmieren.
• Das ERI-Repository enthält eine Referenzimplementierung in C#; siehe Developers (Englisch).

Wie es weitergeht

• Assistenten
• Datenquellen: AI Studio mit Ihrem ERI-Server verbinden.