BIKIStart

BIKI: Startseite des 'BIelefelder KI Interface'

Das BIelefelder KI Interface - kurz BIKI - ermöglicht Angehörigen der Universität die Nutzung von großen Sprachmodellen. Zum Start wird dabei auf ChatGPT von OpenAI zugegriffen.

ACHTUNG: BIKI befindet sich im Pilotbetrieb und ist noch nicht allgemein zugänglich!

Datenschutz und Nutzungshinweise

Bitte lesen Sie sich vor der ersten Nutzung von BIKI diese Informationen durch:

• BITS Seite zu BIKI
• Frag BIKI - in diesem Blog gibt es Einführungstexte und Hinweise zur Nutzung - im AUFBAU
• Hinweise zum Datenschutz - was darf nicht in BIKI eingetragen werden

Nutzung

BIKI funktioniert wie eine Chatanwendung: Sie schreiben eine Frage in das Eingabefeld - im Sprachgebrauch der KI Anwendungen wird hier vom Prompt gesprochen - und schicken die Frage dann ab. BIKI leitet die Frage im Hintergrund an das gewählte Sprachmodell weiter und schickt die Antwort zurück, sobald sie generiert wurde. Während der Wartezeit, die einige Sekunden betragen kann, erscheint eine kleine Animation.

Sprechen Sie dabei mit BIKI wie mit einer Person der Sie erklären, was Sie genau von ihr erwarten. Im Gegensatz zu einer Suchmaschine funktioniert die Arbeit mit BIKI um so besser, je mehr Kontext Sie in Ihrem Prompt mitgeben.

Sie können dann die Konversation weiterführen durch Folgefragen. Dabei wird Bezug auf den bisherigen Gesprächsverlauf genommen, BIKI 'merkt' sich also, was vorher besprochen wurde. Ein einfaches Chatbeispiel:

ICH: Wie ist meine Lieblingsfarbe?

BIKI: Ich habe leider keine Informationen über Ihre persönlichen Vorlieben, einschließlich Ihrer Lieblingsfarbe. Wenn Sie mir Ihre Lieblingsfarbe mitteilen, kann ich Ihnen gerne weiterhelfen!

ICH: Meine Lieblingsfarbe ist grün

BIKI: Danke für die Information! Ihre Lieblingsfarbe ist grün. Wie kann ich Ihnen weiterhelfen?

ICH: Was ist meine Lieblingsfarbe?

BIKI: Ihre Lieblingsfarbe ist grün.

Dieses einfache Prinzip ist sehr leistungsfähig, nicht nur weil Sie BIKI auf diese Weise mit Wissen zu versorgen können, welches es nicht von Haus aus hat. Es ist so auch möglich schrittweise Ergebnisse zu verfeinern: Sie können BIKI anweisen eine vorher gegebene Antwort in einer bestimmten Hinsicht zu überarbeiten und diesen Vorgang so lange wiederholen, bis das Ergebnis passt.

Mehrzeilige Eingaben

Je geübter Sie mit BIKI werden, desto länger werden Ihre Prompts vermutlich. Wenn Sie die Return bzw. Entertaste ↩ zusammen mit der Umschalttaste/Shift-Taste drücken, dann wird die Eingabe nicht abgeschickt, wie es sonst bei der Eingabe von Return der Fall wäre, sondern das Eingabefeld wird größer.

Bestandteile einer Konversation

Die Struktur ist so, wie Sie es von Chatprogrammen wie zum Beispiel von TeamChat gewohnt sind: Sie schreiben eine Frage oder Aufforderung - Ihr Prompt - und BIKI antwortet. Und so weiter. Die Antworten können dabei Formatierungen enthalten, zum Beispiel wenn Sie BIKI nach Programmcodes fragen.

Bei den Antworten werden zwei zusätzliche Informationen angezeigt:

• Das Sprachmodell, mit dem die Antwort generiert wurde. Dies soll Vergleiche der Leistungsfähigkeit verschiedener Modelle ermöglichen. Hier steht z. B. 'gpt-4o'. Welches Modell genau dahinter steckt wird im folgenden Abschnitt zu den verfügbaren Sprachmodellen erläutert
• Die Menge der verbrauchten Token: BIKI setzt heute auf einem kostenpflichtigen Dienst auf, dabei werden die Kosten über die verbrauchten Tokens (ein Token entspricht ungefährt einer Silbe) gemessen. Wenn Sie mit der Maus einen Moment über dem Namen des Sprachmodells verharren wird angezeigt, wie viele Tokens zum Sprachmodell geschickt wurden und wie viele für die Antwort zurückkamen. Hier kann man den Effekt beobachten, dass in einer langen Konversation die Menge der Tokens für den Frageteil immer umfangreicher wird, da jedesmal der gesamte, bisherige Konversationsverlauf mitgeschickt werden muss

Verwaltung mehrerer Konversationen

BIKI merkt sich die geführten Konversationen und zeigt sie am linken Rand an. Hier können Sie durch Anklicken eines der Titel einfach wieder in die entsprechende Konversation zurückspringen und sie direkt fortsetzen. Eine ganz neue Konversation beginnen Sie durch Anklicken von 'Neue Konversation erstellen'.

Die Titel der Konversationen werden von BIKI generiert und können aktuell nicht beeinflusst werden. Die Liste der Konversationen zeigt immer die zuletzt verwendeten Einträge zuerst an. Sie können Konversationen löschen, dazu müssen Sie sich in der entsprechenden Konversation befinden und dann auf 'Konversation löschen' am Seitenanfang klicken.

Informationen werden nicht geteilt zwischen Konversationen

Zuvor wurde beschrieben, dass man über entsprechende Eingaben BIKI etwas beibringen kann ('Meine Lieblingsfarbe ist grün'). Dieses Wissen bezieht sich allerdings immer nur auf die jeweilige Konversation. Wenn Sie das Beispiel oben mit der Lieblingsfarbe ausprobieren, und danach eine neue Konversation beginnen, wird BIKI dort nicht wissen, was Ihre Lieblingsfarbe ist. Wohl aber in der Konversation, in der Sie BIKI dies beigebracht haben.

Falls Sie BIKI generell zum Beginn einer Konversation ein bestimmtes Wissen mitgeben möchten, dann können Sie sich den entsprechenden Text zum Beispiel in einer Worddatei ablegen und dann jeweils an den Anfang einer neuen Konversation stellen. Es ist so auch möglich verschiedene 'Charaktere' von BIKI zu verwenden, die jeweils auf ein etwas anderes Wissen zugreifen können.

Verfügbare Sprachmodelle

In BIKI sollen verschiedene Sprachmodelle verfügbar gemacht werden. Diese Modelle haben unterschiedliche Eigenschaften und werden in einer eigene Seite behandelt: Sprachmodelle in BIKI.

Fehlermeldungen

Es kann Situationen geben, in denen BIKI auf Probleme in der Kommunikation mit den extern betriebenen Sprachmodellen stößt. Es gibt dabei diese potentiellen Antworten:

'Das Anfragelimit der OpenAI Schnittstelle wurde überschritten. Bitte versuchen Sie es später noch einmal'

In diesem Fall sind aktuell so viele Nutzer*innen in BIKI unterwegs, dass wir an die Nutzungsgrenzen der Schnittstelle von OpenAI stoßen. Sobald die Nutzung geringer wird ist der Zugriff wieder möglich

'Das Kontingent für Anfragen über die API wurde aufgebraucht'

In diesem Fall wurde das von der Universität Bielefeld eingekaufte Nutzungskontingent aufgebraucht. Hier müssen Sie sich einmal an das BIS Team wenden

'Die OpenAI Schnittstelle ist nicht erreichbar'

In diesem Fall kann BIKI nicht auf den Service von OpenAI zugreifen (die API). Eine entsprechende Störung sollte sich dann auch in der Statusseite von OpenAI im Bereich 'API' zeigen. Nach einem Ende der Störung sollte sich BIKI wieder von selbst erholen und zur Verfügung stehen

'Es ist ein interner Fehler aufgetreten'

Diese Meldung kommt bei anderen Fehlersituationen. Hier müssen Sie sich einmal an das BIS Team wenden