BIKIStart: Unterschied zwischen den Versionen

Aus BIS-Hilfe-Wiki
Keine Bearbeitungszusammenfassung
Keine Bearbeitungszusammenfassung
Zeile 12: Zeile 12:
== Verfügbare Sprachmodelle ==
== Verfügbare Sprachmodelle ==


Das Ziel von BIKI ist es verschiedene Sprachmodelle verfügbar zu machen, zum Start werden dabei bekannten ChatGPT Modelle von OpenAI angeboten. Die Modelle unterscheiden sich in ihren Eigenschaften:
Das Ziel von BIKI ist es verschiedene Sprachmodelle verfügbar zu machen, zum Start werden dabei die ChatGPT Modelle von OpenAI angeboten. Die Modelle unterscheiden sich in ihren Eigenschaften:


* Aktualität: Sprachmodelle werden einmal trainiert und lernen dann nichts mehr dazu. Sie können also kein Wissen enthalten, welche nach dem Ende des Trainings erst entstanden ist. Z. B. kann kein Wissen über Ereignisse der letzten Wochen und Monate enthalten sein. Trotzdem wird ein Sprachmodell auf Fragen nach solchen Ereignissen antworten, als ob es davon Kenntnisse hätte, also 'halluzinieren'
* Aktualität: Sprachmodelle werden einmal trainiert und lernen dann nichts mehr dazu. Sie können also kein Wissen enthalten, welche nach dem Ende des Trainings erst entstanden ist. Z. B. kann kein Wissen über Ereignisse der letzten Wochen und Monate enthalten sein. Trotzdem wird ein Sprachmodell auf Fragen nach solchen Ereignissen antworten, als ob es davon Kenntnisse hätte, also 'halluzinieren'

Version vom 13. Juni 2024, 16:20 Uhr


BIKI: Startseite des 'BIelefelder KI Interface'

Das BIelefelder KI Interface - kurz BIKI - ermöglicht Angehörigen der Universität die Verwendung von großen Sprachmodellen. Zum Start wird dabei auf ChatGPT von OpenAI zugegriffen.

Datenschutz und Nutzungsbedingungen

Bitte lesen Sie sich vor der ersten Nutzung von BIKI einmal diese Dokumente durch:

  • BITS Seite zu BIKI mit Hinweisen zum Datenschutz und zu Risiken und Chancen von Künstlicher Intelligenz (KI)
  • Nutzungshinweise - OFFEN

Verfügbare Sprachmodelle

Das Ziel von BIKI ist es verschiedene Sprachmodelle verfügbar zu machen, zum Start werden dabei die ChatGPT Modelle von OpenAI angeboten. Die Modelle unterscheiden sich in ihren Eigenschaften:

  • Aktualität: Sprachmodelle werden einmal trainiert und lernen dann nichts mehr dazu. Sie können also kein Wissen enthalten, welche nach dem Ende des Trainings erst entstanden ist. Z. B. kann kein Wissen über Ereignisse der letzten Wochen und Monate enthalten sein. Trotzdem wird ein Sprachmodell auf Fragen nach solchen Ereignissen antworten, als ob es davon Kenntnisse hätte, also 'halluzinieren'
  • Größe des Kontextfensters: Sprachmodelle können die Inhalte einer Konversation für folgende Fragen verwenden (sich 'merken') und auf diese zurückgreifen für die Generierung neuer Antworten. Allerdings ist dieses Gedächtnis nicht unbegrenzt und die Größe des sogenannten Kontextfensters definiert, in welchem Umfang die vorherige Konversation berücksichtigt werden kann. Alle Inhalte einer Konversation, die nicht mehr in das Kontextfenster passen, sind faktisch 'vergessen' für das Sprachmodell. Die Größe wird dabei in sogn. Tokens festgelegt. Es ist nicht ganz einfach Tokens in Buchstaben oder Worte umzurechnen, als Faustformel kann von ca. 2 Tokens für ein Wort ausgehen. Von OpenAI gibt es hier eine Seite, in der man sich für einen gegebenen Text anzeigen lassen kann, wie dieser in Tokens unterteilt wird

Diese Modelle werden aktuell in BIKI angeboten:

ChatGPT 4o

Dieses Sprachmodell von OpenAI wurde im Mai 2024 veröffentlicht

Fehlermeldungen

Es kann Situationen geben, in denen BIKI auf Probleme in der Kommunikation mit den extern betriebenen Sprachmodellen stößt. Es gibt dabei diese potentiellen Antworten:

  • 'Das Anfragelimit der OpenAI Schnittstelle wurde überschritten. Bitte versuchen Sie es später noch einmal'
    • In diesem Fall sind aktuell so viele Nutzer*innen in BIKI unterwegs, dass wir an die Nutzungsgrenzen der Schnittstelle von OpenAI stoßen. Sobald die Nutzung geringer wird ist der Zugriff wieder möglich
  • 'Das Kontingent für Anfragen über die API wurde aufgebraucht'
    • In diesem Fall wurde das von der Universität Bielefeld eingekaufte Nutzungskontingent aufgebraucht. Hier müssen Sie sich einmal an das BIS Team wenden
  • 'Die OpenAI Schnittstelle ist nicht erreichbar'
    • In diesem Fall kann BIKI nicht auf den Service von OpenAI zugreifen (die API). Eine entsprechende Störung sollte sich dann auch in der Statusseite von OpenAI im Bereich 'API' zeigen
    • Nach einem Ende der Störung sollte sich BIKI wieder von selbst erholen und zur Verfügung stehen
  • 'Es ist ein interner Fehler aufgetreten'
    • Diese Meldung kommt bei anderen Fehlersituationen. Hier müssen Sie sich einmal an das BIS Team wenden