BIKIEinstellungen

Aus BIS-Hilfe-Wiki


BIKI: Einstellungen

Hier können Sie Einstellungen an BIKI vornehmen. Dabei handelt es sich aktuell nur um eine einzige:

Temperatureinstellung für Sprachmodelle

Die sogn. 'Temperatur' in Sprachmodellen steuert die Kreativität der Texte. Eine niedrige Temperatur (z.B. 0,2) führt zu vorhersehbaren und konsistenten Texten, da häufigere Wörter bevorzugt werden. Eine hohe Temperatur (z.B. 1,0) erzeugt kreativere und variantenreichere Texte, kann aber weniger konsistent sein. Die Wahl der richtigen Temperatur hängt vom gewünschten Anwendungsfall ab. Im Normalfall werden Sie hier keine Änderung machen müssen.

Der Standardwert ist 0,7. Es sind Werte zwischen 0 und 1 möglich.

Aktuell verbrauchtes Kontingent

BIKI soll generell mit möglichst geringen Begrenzungen einsetzbar sein. Trotzdem muss es einen Schutz geben, der exzessive Nutzungen durch Einzelne verhindert. Dies soll insbesondere verhindern, dass der Zugriff auf die kostenpflichtigen Modelle für alle Nutzer*innen gestört wird.

Im System wird pro Nutzer*in ein individuelles BIKI Kontingent geführt. Von diesem Kontingent werden die Verwendungen der für die Universität kostenpflichtigen Sprachmodelle abgezogen. Die Kosten stehen dabei in direktem Zusammenhang mit den zu den Sprachmodellen geschickten Eingaben (größere Eingaben kosten mehr) und den Umfängen der generierten Antworten.

Das Kontingent und die Nutzungsumfänge werden dabei auf Monatsbasis berechnet, der Monatsbeginn ist dabei jeweils der Bezugszeitpunkt. Sobald Sie Ihr Kontingent zu mehr als 90% erschöpft haben erscheint hier ein entsprechender Hinweis. Die Anzeige erscheint bewusst erst dann, damit sie vorher nicht abschreckend wirkt. Sie können die Seite aber über einen speziellen Parameter aufrufen, wenn Sie den aktuellen Stand sehen wollen.

Falls Sie Ihr Kontingent komplett verbraucht haben, so können Sie bis zum Beginn des nächsten Monats nur auf die kostenfreien Sprachmodelle zugreifen. Falls ein Zugriff auf die kostenpflichtigen Modelle dringend notwendig ist, so wenden Sie sich bitte an uns.

Sie können Ihren Verbrauch ggf. durch folgende Massnahmen reduzieren:

  • Günstigere Modelle verwenden: Auch wenn Sie ChatGPT verwenden können Sie die Kosten durch die Verwendung des 'Mini'-Modells drücken. Dieses kostet mit Stand 08/2024 nicht einmal ein Zehntel des großen ChatGPT Modells und liefert für viele Aufgaben wie zum Beispiel Textzusammenfassungen ähnliche Ergebnisse. Auch die kostenfreien Modelle sind für manche Aufgaben komplett gleichwertig
  • Kürzere Konversationen führen: Wenn Sie Konversationen mit den Sprachmodellen führen, so werden immer die zuvor gestellten Fragen und Antworten erneut mitgeschickt. Erst dadurch entsteht der Effekt, dass sich BIKI 'merken' kann, worüber Sie zuvor gesprochen haben. Wenn es inhaltlich nicht notwendig ist, eine vorhandene Konversation fortzuführen, so spart es Kosten eine neue Konversation zu beginnen

Wie erreiche ich diese Seite

In der BIKI Hauptseite finden Sie oben rechts das Symbol, welches diese Seite öffnet.