บทที่ 49: ต้นทุนโทเคน วัดจริงไม่ใช่เดา

บทที่ 48 อะไรฟรี อะไรต้องจ่าย คุมภาพรวมว่าจ่ายอะไรบ้าง บทนี้ลงลึกกว่านั้นหนึ่งชั้น คือจ่ายเท่าไหร่ และทำไมถึงเท่านั้น

เรื่องนี้สำคัญตอนเริ่มเอา AI ไปรันงานอัตโนมัติ เพราะตอนนั่งพิมพ์เองค่าใช้จ่ายจะคาดเดาได้ แต่พองานวิ่งเองทั้งวัน มันไม่รอให้เราคิด

สไลด์ 1 — โทเคนคือหน่วยที่ถูกคิดเงิน

จุดที่คนเข้าใจผิดมากที่สุดคือคิดว่าจ่ายเฉพาะคำตอบ ความจริงคือของที่เราโยนเข้าไปก็นับด้วย และมักเยอะกว่าคำตอบเสียอีก

ยิ่งโยนของเข้าไปเยอะ ยิ่งจ่ายเยอะ ถึงจะยังไม่ได้คำตอบที่ต้องการก็ตาม

โยนไฟล์ทั้งไฟล์เข้าไป ทั้งที่ใช้จริงแค่ไม่กี่บรรทัด ตัดเฉพาะส่วนที่ต้องใช้ก่อนส่งจะประหยัดกว่ามาก
สั่งไม่ชัด แล้วต้องทำใหม่หลายรอบ ทุกรอบที่ทำใหม่คือจ่ายใหม่ทั้งขาเข้าและขาออก
ตั้งงานอัตโนมัติถี่เกินจำเป็น รันทุกชั่วโมงทั้งที่ดูวันละครั้งก็พอ คือการจ่ายค่าเวลาที่ไม่มีใครดู

ข้อสองคือข้อที่แพงที่สุด และเป็นข้อที่แก้ได้ฟรีด้วยการเขียนคำสั่งให้ดีขึ้นตาม บทที่ 25 เขียนคำสั่งให้ AI ทำได้ตรงใจ

ค่าใช้จ่ายส่วนใหญ่มาจากนิสัยการสั่ง ไม่ใช่จากราคาต่อหน่วยของผู้ให้บริการ

เปิดหน้าสรุปการใช้งานของผู้ให้บริการดูทุกสัปดาห์ ทุกเจ้ามีหน้านี้ ดูห้านาทีต่อสัปดาห์ก็พอ
ตั้งเพดานเตือนไว้ล่วงหน้า อย่ารอบิล ตั้งให้มันเตือนตอนใช้ถึงระดับที่เรารับได้
แยกกุญแจคนละใบต่อโปรเจค จะได้รู้ว่างานไหนกินเยอะ ไม่ใช่เห็นแค่ยอดรวมก้อนเดียว

ข้อสามคือวิธีที่ง่ายที่สุดที่จะรู้ว่าเงินไปไหน และเป็นข้อที่คนทำทีหลังเสมอ ทั้งที่ทำตอนแรกใช้เวลาห้านาที

ทำสามอย่างนี้วันนี้ ใช้เวลารวมไม่เกินยี่สิบนาที

คนส่วนใหญ่ทำข้อสองแล้วจะเจอว่ามีวันหนึ่งที่พุ่งเพราะทดลองอะไรสักอย่างแล้วลืมปิด

Token หน่วยนับข้อความ ข้อความถูกตัดเป็นชิ้นเล็ก ๆ แล้วนับเป็นชิ้น
Input / Output ขาเข้า ขาออก ที่เราส่งไปกับที่ AI ตอบกลับ นับแยกกันและราคาไม่เท่ากัน
Context ของที่แบกไว้ในบทสนทนา ยิ่งคุยยาว ยิ่งแบกเยอะ ยิ่งเปลือง
Rate Limit เพดานการใช้ต่อช่วงเวลา ใช้ถี่เกินแล้วโดนหยุดชั่วคราว

เรื่อง Context อธิบายละเอียดไว้แล้วที่ บทที่ 3 Context Window บทนี้แค่เพิ่มมุมว่ามันมีราคาด้วย

งานยาว ๆ ที่คุยต่อกันทั้งวันในหน้าต่างเดียว จะแพงขึ้นเรื่อย ๆ แม้คำถามจะสั้นลง เพราะมันแบกบทสนทนาเดิมไปด้วยทุกครั้ง