BIKIEinstellungen

BIKI: Einstellungen

Hier können Sie Einstellungen an BIKI vornehmen. Dabei handelt es sich aktuell nur um eine einzige:

Temperatureinstellung für Sprachmodelle

Die sogn. 'Temperatur' in Sprachmodellen steuert die Kreativität der Texte. Eine niedrige Temperatur (z.B. 0,2) führt zu vorhersehbaren und konsistenten Texten, da häufigere Wörter bevorzugt werden. Eine hohe Temperatur (z.B. 1,0) erzeugt kreativere und variantenreichere Texte, kann aber weniger konsistent sein. Die Wahl der richtigen Temperatur hängt vom gewünschten Anwendungsfall ab. Im Normalfall werden Sie hier keine Änderung machen müssen.

Der Standardwert ist 0,7. Es sind Werte zwischen 0 und 1 möglich.

Streaming

Hier können Sie das Antwortverhalten von BIKI auf den Streamingmodus umschalten. Im Streamingmodus beginnen die Antworten nachzu augenblicklich nach dem Abschicken Ihrer Frage. Weitere Informationen dazu finden sich in dieser Frag BIKI Meldung.

Aktuell ist das Streaming noch nicht die Standardeinstellung und muss einmal explizit aktiviert werden. In Zukunft wird dies aber das Standardverhalten sein.

Aktuell verbrauchtes Kontingent

Die Nutzung von BIKI sollte im Idealfall ohne Begrenzungen möglich sein. Allerdings verursacht die Nutzung Kosten für die Universität. Es muss daher einen Schutz geben, der exzessive Nutzungen durch Einzelne verhindert. Dies soll insbesondere garantieren, dass der Zugriff auf die kostenpflichtigen Modelle für alle anderen Nutzer*innen ungestört bleibt.

Im System wird pro Nutzer*in ein individuelles BIKI Kontingent geführt. Von diesem Kontingent werden die Verwendungen der für die Universität kostenpflichtigen Sprachmodelle abgezogen. Die Kosten stehen dabei in direktem Zusammenhang mit den zu den Sprachmodellen geschickten Eingaben (größere Eingaben kosten mehr) und den Umfängen der generierten Antworten.

Das Kontingent und die Nutzungsumfänge werden dabei auf Monatsbasis berechnet, der Monatsbeginn ist dabei jeweils der Bezugszeitpunkt. Sobald Sie Ihr Kontingent zu mehr als 90% erschöpft haben erscheint hier ein entsprechender Hinweis. Die Anzeige erscheint bewusst erst dann, damit sie vorher nicht abschreckend wirkt. Sie können die Seite aber über einen speziellen Parameter aufrufen, wenn Sie den aktuellen Stand sehen wollen.

Falls Sie Ihr Kontingent komplett verbraucht haben, so können Sie bis zum Beginn des nächsten Monats nur auf die kostenfreien Sprachmodelle zugreifen. Falls ein Zugriff auf die kostenpflichtigen Modelle dringend notwendig ist, so wenden Sie sich bitte an uns.

So können Sie Ihren Verbrauch reduzieren

• Günstigere Modelle verwenden: Auch wenn Sie ChatGPT verwenden können Sie die Kosten durch die Verwendung des 'Mini'-Modells drücken. Dieses kostet mit Stand 09/2024 nicht einmal ein Zehntel des großen ChatGPT Modells und liefert für viele Aufgaben wie zum Beispiel Textzusammenfassungen ähnliche Ergebnisse. Auch die kostenfreien Modelle sind für manche Aufgaben komplett gleichwertig
• Kürzere Konversationen führen: Wenn Sie Konversationen mit den Sprachmodellen führen, so werden immer die zuvor gestellten Fragen und Antworten erneut mitgeschickt. Erst dadurch entsteht der Effekt, dass sich BIKI 'merken' kann, worüber Sie zuvor gesprochen haben. Wenn es inhaltlich nicht notwendig ist, eine vorhandene Konversation fortzuführen, so spart es Kosten eine neue Konversation zu beginnen

Wie erreiche ich diese Seite

In der BIKI Hauptseite finden Sie oben rechts das Symbol, welches diese Seite öffnet.