BIKIEinstellungen: Unterschied zwischen den Versionen

Aus BIS-Hilfe-Wiki
Keine Bearbeitungszusammenfassung
Keine Bearbeitungszusammenfassung
 
(9 dazwischenliegende Versionen desselben Benutzers werden nicht angezeigt)
Zeile 1: Zeile 1:
[[Category:BIKI]]
[[Category:BIKI]]
{{h|BIKI: Einstellungen|
{{h|BIKI: Einstellungen|
Hier können Sie Einstellungen an BIKI vornehmen. Dabei handelt es sich aktuell nur um eine einzige:
Hier können Sie Einstellungen an BIKI vornehmen und den Stand Ihres individuellen Nutzungskontingents überprüfen:
 
== Aktuell verbrauchtes Kontingent ==
 
Hier sehen Sie den Stand Ihres monatlichen Nutzungskontingents. Ausführliche Beschreibungen finden Sie dazu [https://blogs.uni-bielefeld.de/blog/biki/entry/kosten in diesem Artikel].
 
== Persönliches Systemprompt setzen ==
 
BIKI verwendet ein sogenanntes Systemprompt. Das ist die Grundlage, auf der BIKI die Konversationen führt, und damit soll ein grundlegendes Verhalten erreicht werden. Heute lautet das Grundprompt so:
 
''Du heißt BIKI (Bielefelder KI-Interface). Antworte höflich, sachlich und präzise''
 
Jede Konversation in BIKI bekommt diesen Satz als Vorklapp für alle weiteren Eingaben. Es gibt Anwendungen von BIKI, in denen das normale Systemprompt störend sein kann, zum Beispiel wenn BIKI zur Simulation bestimmter Arten von Gesprächspartner*innen verwendet werden soll. Hier können Sie daher das Prompt eintragen, welches Sie aktuell verwenden möchten.
 
Sie können es bei kurzen Sätzen belassen, es ist aber auch möglich umfangreichere Eingaben zu machen, zum Beispiel wenn Sie BIKI mit einem Grundwissen ausstatten wollen, welches Sie häufiger abfragen wollen.


== Temperatureinstellung für Sprachmodelle ==
== Temperatureinstellung für Sprachmodelle ==
Zeile 9: Zeile 23:
Der Standardwert ist 0,7. Es sind Werte zwischen 0 und 1 möglich.
Der Standardwert ist 0,7. Es sind Werte zwischen 0 und 1 möglich.


== Aktuell verbrauchtes Kontingent ==
== Hinweise zur Nutzung und die BIKI-Tour ==
 
BIKI soll generell mit möglichst geringen Begrenzungen einsetzbar sein. Trotzdem muss es einen Schutz geben, der exzessive Nutzungen durch Einzelne verhindert. Dies soll insbesondere verhindern, dass der Zugriff auf die kostenpflichtigen Modelle für alle Nutzer*innen gestört wird.
 
Im System wird pro Nutzer*in ein individuelles BIKI Kontingent geführt. Von diesem Kontingent werden die Verwendungen der für die Universität kostenpflichtigen [[BIKI: Sprachmodelle|Sprachmodelle]] abgezogen. Die Kosten stehen dabei in direktem Zusammenhang mit den zu den Sprachmodellen geschickten Eingaben (größere Eingaben kosten mehr) und den Umfängen der generierten Antworten.


Das Kontingent und die Nutzungsumfänge werden dabei auf Monatsbasis berechnet, der Monatsbeginn ist dabei jeweils der Bezugszeitpunkt. Sobald Sie Ihr Kontingent zu mehr als 90% erschöpft haben erscheint hier ein entsprechender Hinweis. Die Anzeige erscheint bewusst erst dann, damit sie vorher nicht abschreckend wirkt. Sie können die Seite aber über einen [https://biki.uni-bielefeld.de/biki/settings?verbrauch speziellen Parameter] aufrufen, wenn Sie den aktuellen Stand sehen wollen.
Sie finden hier den Link zur [https://biki.uni-bielefeld.de/biki/settings/hinweise_nutzung Seite mit den weitergehenden Informationen zu BIKI] udn die Möglichkeit, die kurze, interaktive Einführung in BIKI erneut zu starten.


Falls Sie Ihr Kontingent komplett verbraucht haben, so können Sie bis zum Beginn des nächsten Monats nur auf die kostenfreien Sprachmodelle zugreifen. Falls ein Zugriff auf die kostenpflichtigen Modelle dringend notwendig ist, so wenden Sie sich bitte {{BISKontakt|an uns}}.
== Streaming ==


Sie können Ihren Verbrauch ggf. durch folgende Massnahmen reduzieren:
Hier können Sie den Streamingmodus von BIKI abschalten. Im Streamingmodus beginnen die Antworten nahezu augenblicklich nach dem Abschicken Ihrer Frage. Weitere Informationen dazu finden sich in dieser [https://blogs.uni-bielefeld.de/blog/biki/entry/biki-update-jetzt-auch-auf#mainSection Frag BIKI Meldung].


* Günstigere Modelle verwenden: Auch wenn Sie ChatGPT verwenden können Sie die Kosten durch die Verwendung des 'Mini'-Modells drücken. Dieses kostet mit Stand 08/2024 nicht einmal ein Zehntel des großen ChatGPT Modells und liefert für viele Aufgaben wie zum Beispiel Textzusammenfassungen ähnliche Ergebnisse. Auch die kostenfreien Modelle sind für manche Aufgaben komplett gleichwertig
Das Streaming ist heute die Standardeinstellung. Falls Sie damit Schwierigkeiten erleben, so können Sie in den zuvor genutzten Modus umschalten, bei dem die Antwort erst komplett erzeugt und dann an BIKI ausgeliefert wird.
* Kürzere Konversationen führen: Wenn Sie Konversationen mit den Sprachmodellen führen, so werden immer die zuvor gestellten Fragen und Antworten erneut mitgeschickt. Erst dadurch entsteht der Effekt, dass sich BIKI 'merken' kann, worüber Sie zuvor gesprochen haben. Wenn es inhaltlich nicht notwendig ist, eine vorhandene Konversation fortzuführen, so spart es Kosten eine neue Konversation zu beginnen


== Wie erreiche ich diese Seite ==
== Wie erreiche ich diese Seite ==

Aktuelle Version vom 29. Oktober 2024, 08:10 Uhr


BIKI: Einstellungen

Hier können Sie Einstellungen an BIKI vornehmen und den Stand Ihres individuellen Nutzungskontingents überprüfen:

Aktuell verbrauchtes Kontingent

Hier sehen Sie den Stand Ihres monatlichen Nutzungskontingents. Ausführliche Beschreibungen finden Sie dazu in diesem Artikel.

Persönliches Systemprompt setzen

BIKI verwendet ein sogenanntes Systemprompt. Das ist die Grundlage, auf der BIKI die Konversationen führt, und damit soll ein grundlegendes Verhalten erreicht werden. Heute lautet das Grundprompt so:

Du heißt BIKI (Bielefelder KI-Interface). Antworte höflich, sachlich und präzise

Jede Konversation in BIKI bekommt diesen Satz als Vorklapp für alle weiteren Eingaben. Es gibt Anwendungen von BIKI, in denen das normale Systemprompt störend sein kann, zum Beispiel wenn BIKI zur Simulation bestimmter Arten von Gesprächspartner*innen verwendet werden soll. Hier können Sie daher das Prompt eintragen, welches Sie aktuell verwenden möchten.

Sie können es bei kurzen Sätzen belassen, es ist aber auch möglich umfangreichere Eingaben zu machen, zum Beispiel wenn Sie BIKI mit einem Grundwissen ausstatten wollen, welches Sie häufiger abfragen wollen.

Temperatureinstellung für Sprachmodelle

Die sogn. 'Temperatur' in Sprachmodellen steuert die Kreativität der Texte. Eine niedrige Temperatur (z.B. 0,2) führt zu vorhersehbaren und konsistenten Texten, da häufigere Wörter bevorzugt werden. Eine hohe Temperatur (z.B. 1,0) erzeugt kreativere und variantenreichere Texte, kann aber weniger konsistent sein. Die Wahl der richtigen Temperatur hängt vom gewünschten Anwendungsfall ab. Im Normalfall werden Sie hier keine Änderung machen müssen.

Der Standardwert ist 0,7. Es sind Werte zwischen 0 und 1 möglich.

Hinweise zur Nutzung und die BIKI-Tour

Sie finden hier den Link zur Seite mit den weitergehenden Informationen zu BIKI udn die Möglichkeit, die kurze, interaktive Einführung in BIKI erneut zu starten.

Streaming

Hier können Sie den Streamingmodus von BIKI abschalten. Im Streamingmodus beginnen die Antworten nahezu augenblicklich nach dem Abschicken Ihrer Frage. Weitere Informationen dazu finden sich in dieser Frag BIKI Meldung.

Das Streaming ist heute die Standardeinstellung. Falls Sie damit Schwierigkeiten erleben, so können Sie in den zuvor genutzten Modus umschalten, bei dem die Antwort erst komplett erzeugt und dann an BIKI ausgeliefert wird.

Wie erreiche ich diese Seite

In der BIKI Hauptseite finden Sie oben rechts das Symbol, welches diese Seite öffnet.