Какво по дяволите е киловатчас?

Flowzart таксува изчисленията на процесите във ватчасове (Втч) и киловатчасове (кВтч). При първо четене това е странен избор. Ватчасовете са единицата на гърба на сметка за електричество, не нещо, което софтуерно парче ви подава, когато се регистрирате. Защо да се заема?

Аналогията с измервателя на енергия

Представете си измервател на стената, тиктакащ нагоре, докато осветлението е включено, хладилникът жужи и чайникът кипи. Числото, което изплюва в края на месеца, е вашите кВтч. Плащате за него, защото уредите изтеглиха реална, физическа мощност.

Измервателят за таксуване на Flowzart работи по същия начин, просто за изчисленията на процесите. Всяко изпълнение на процес изтегля ресурси (CPU, памет, мрежова честотна лента, съхранение) и измервателят записва колко. Този общ сбор са Втч на сметката.

Все пак отдолу е токенна система, по същия начин както сметка за електричество в крайна сметка е абстрактни евра. Но именуването на единицата “ватчас” вместо “кредит” или “изчислителна единица” е преднамерено. Подсказва, че измервателят измерва нещо физическо, нещо реално. Защото е така.

Какво покрива един Втч

По-конкретно, Втч измерва ресурсния разход на страната Flowzart:

• Изчисление. Всеки възел на платното има ватова оценка, Втч за секунда изпълнение. По-големи работни натоварвания, по-дълги изпълнения, повече възли, изпълняващи се паралелно: повече Втч.
• Памет. RAM, държана докато процес е в ход. Десет килобайта значително не движат измервателя. Десет гигабайта движат.
• Мрежа. Байтове, течащи навътре и навън. Изтегляне на файл от 50 MB, изпращане на резултат от 200 MB: и двете се регистрират.
• Съхранение. Данни, задържани на Flowzart между изпълнения. Процес, който трупа междинни резултати, е по-скъп от такъв, който чисти след себе си.

Ако процес върши работа, измервателят тиктака. Ако стои в покой, не тиктака. Числото Втч на сметката е сборът от всичките четири.

Какво един Втч не покрива

Това е важната част. Измервателят на Flowzart брои само ресурсите от страната на Flowzart. Не брои разходите на API-та от трети страни.

Ако процес извика LLM доставчик, за да обобщи документ, токените, за които този доставчик таксува, се таксуват директно от доставчика срещу собствения API ключ на потребителя (донесете си собствения). Flowzart не вижда тази сметка. Същото важи за всяка друга дестинация от трета страна: webhook endpoint-и, услуги за транзакционен имейл, API-та за генериране на изображения, всички. Тези услуги таксуват потребителя директно, в каквато единица предпочитат.

Разделението е честно за кой какво таксува. Flowzart таксува за изчисленията, които извърши върху собствената си инфраструктура. Всички други таксуват за своите.

Колко изпълнения е един Втч

За да направим единицата осезаема: типичен процес, който извиква LLM веднъж и връща резултат, консумира приблизително 125 ватсекунди изчисление от страна на Flowzart. Това е около 0.0347 Втч, приблизително една двадесет и пета от Втч за изпълнение.

Така един Втч покрива около 25 изпълнения, използващи LLM. Един кВтч (единицата, която се появява на месечните абонаментни нива) покрива около 25,000.

Две уговорки. Първо, цифрата 125 Втс е работна оценка, не договор; действителната употреба варира в зависимост от това колко сложен е процесът и колко памет и мрежа докосва. Второ, преднамерено е от консервативната страна. Повечето процеси ще работят по-евтино, отколкото оценката предполага, не по-скъпо.

Смисълът на аналогията не е да даде точна цена на изпълнение предварително. А да даде единица, която се мащабира с реалността. Ако процес се чувства скъп, вероятно върши повече работа. Ако се чувства евтин, вероятно не върши.

За това служи измервателят.