Prisstyring af ChatGPT i Notes-applikationer
Når du integrerer ChatGPT i dine Notes-applikationer, får du fantastiske muligheder for at optimere dine Notes-applikationer. Både i forhold til auto-genererede tekster, anbefalinger, men også en intelligens, der kan overskue overordentligt store mængder data.
Når du integrerer ChatGPT i dine Notes-applikationer, skal du være opmærksom på, at der er en forbrugsbaseret pris. Det vil sige, at du betaler i forhold til de tokens, du sender og modtager. Et token svarer til ca. 4 bogstaver. Det betyder også, at det kan betale sig for dig at bruge lidt tid på “Prompt Engineering”, hvilket vil sige at optimere det, der sendes frem og tilbage.
I skrivende stund er det GPT-4o (“omni”), der er den nyeste model. Fordelen ved denne model er, at det er den mest avancerede, men også at den er dobbelt så hurtig som tidligere modeller og koster det halve. Du kan læse mere om GPT-4o hos OpenAI her.
Løbende beregning af forbruget på ChatGPT
Når vi udvikler integrationen mellem HCL Notes og ChatGPT, giver vi dig også en oversigt, hvor du løbende kan se forbruget.
Det gør vi via det svar, som ChatGPT sender retur. Her kan du se, hvor mange tokens der er sendt ind, og hvor mange der er sendt retur. Med de forespørgsler du sender ind, kan du også sætte et maksimum på antal tokens, der må bruges.
Ud fra antal tokens beregner vi, hvad et kald og et svar koster, så du er klar over, hvor meget det koster dig at analysere dine data.
Med vores integration anbefaler vi klart, at den integration, der udvikles, er opmærksom på, om der er nye data, der sendes op til ChatGPT, så man ikke unødigt beder om informationer, som man allerede har fået. Det kan være rapporter, der genereres på de samme data, som tidligere er sendt. Her vil man forvente at få en rapport retur, der er magen til den, man har fået. Det kan vi styre via algoritmer i HCL Notes, som holder styr på dette.
Rate Limits i ChatGPT
Når du starter med at få dine API-nøgler, lægger du samtidig et maksimum på i OpenAI’s platform. Maksimum er, hvor meget du vil bruge på en måned. Til at starte med er maksimumforbruget 120 USD, som du kan indstille lavere, hvis du vil. I takt med at du har et forbrug, får du mulighed for at stige i det, man kalder tiers. Når du får højere tiers, kan du også få større maksimum og større friheder til at sende store mængder data op.
Konklusion
Med ChatGPT’s udmærkede platform kan du sætte begrænsninger på, så økonomien ikke løber løbsk. Samtidig udvikler vi et forbrugsoverblik, som vi bruger til at forbedre de prompts, vi sender op til ChatGPT, for at få så lave omkostninger pr. kald som muligt.
Vi rådgiver om brug og muligheder, samtidig med at vi kan lave et Proof of Concept til dig ved hjælp af OpenAI’s “sandkasse”, der er et område, hvor vi kan teste, hvad der kommer retur.
Du er velkommen til at tage kontakt til Christian Gravgaard på telefon +45 70 230 249 eller via mailen [email protected] for at få rådgivning om dine muligheder for at integrere dine Notes-applikationer med ChatGPT.