เคยไหม คุยกับ AI ตอนแรกดีมาก พอคุยยาว ๆ เริ่มลืมสิ่งที่ตกลงกันไว้ตอนต้น หรือวนกลับมาถามเรื่องที่บอกไปแล้ว
ไม่ใช่ AI ดื้อ แต่พื้นที่ความจำของมันในรอบนั้นเต็ม บทนี้อธิบายว่าพื้นที่นั้นคืออะไร และเราคุมมันได้ยังไง
สไลด์ 1 — Context Window คืออะไร
Context Window คือ พื้นที่ความจำชั่วคราวของ AI ในหนึ่งบทสนทนา ทุกอย่างที่อยู่ในนั้น AI มองเห็นหมด ทั้งคำถามเรา คำตอบมันเอง ไฟล์ที่แนบ และบทสนทนาก่อนหน้า
สิ่งที่อยู่นอกหน้าต่างนี้ มันไม่เห็น เช่น แชทเมื่อวานที่เปิดคนละหน้าต่าง หรือไฟล์ที่เราไม่ได้แนบมา
เปรียบง่าย ๆ เหมือนโต๊ะทำงาน วางของได้เท่าที่โต๊ะมีที่ ของที่ไม่ได้วางบนโต๊ะ ต่อให้อยู่ในห้องเดียวกัน มือก็หยิบไม่ถึง
สไลด์ 2 — หนึ่งล้าน Token คือพื้นที่รวม ไม่ใช่แค่ฝั่งเรา
Token คือหน่วยนับข้อความ ภาษาไทยหนึ่งคำอาจกินหลาย token ตัวเลขความจุที่แต่ละเจ้าประกาศ เช่นหลักแสนถึงหลักล้าน token คือ พื้นที่รวมทั้งขาเข้าและขาออก
หมายความว่าคำตอบยาว ๆ ของ AI ก็กินพื้นที่เหมือนกัน ไม่ใช่แค่สิ่งที่เราพิมพ์เข้าไป ไฟล์ที่แนบก็นับ โค้ดที่วางก็นับ
เรื่องนี้กระทบร้านเรายังไง
ถ้าโยนไฟล์ยอดขายทั้งปีเข้าไปตั้งแต่ข้อความแรก พื้นที่จะโดนกินไปมากตั้งแต่ต้น พอคุยไปสักพักจะเริ่มตอบพลาด วิธีที่ดีกว่าคือส่งเฉพาะเดือนที่กำลังจะคุยถึง
ลองทำเลย
ครั้งหน้าที่จะแนบไฟล์ ถามตัวเองก่อนว่า "งานรอบนี้ต้องใช้ข้อมูลส่วนไหนจริง ๆ" แล้วส่งเฉพาะส่วนนั้น
สไลด์ 3 — ทุกเทิร์นถูกนับสะสม
หนึ่งเทิร์นคือถามหนึ่งครั้งบวกตอบหนึ่งครั้ง สไลด์นี้ไล่ให้ดูว่าถ้าเราส่งไปสองพัน AI ตอบกลับสามพัน เทิร์นนั้นใช้ไปห้าพัน พอคุยไปสามเทิร์นก็สะสมเป็นหมื่นห้า
ยิ่งคุยนาน พื้นที่ยิ่งถูกใช้ และของเก่าสุดจะเริ่มถูกดันออก นี่คือเหตุผลที่คุยยาว ๆ แล้ว AI ลืมข้อตกลงตอนต้น
สัญญาณว่าใกล้เต็มแล้ว
- เริ่มตอบไม่ตรงกับที่ตกลงไว้ตอนต้น
- ถามซ้ำเรื่องที่เราบอกไปแล้ว
- คำตอบเริ่มกว้าง ๆ ไม่เจาะจงเหมือนตอนแรก
เจอสามอาการนี้ ให้สรุปแล้วเปิดหน้าต่างใหม่ ดีกว่าฝืนคุยต่อ
สไลด์ 4 — สี่วิธีจัดการไม่ให้ AI หลุด
- บรีฟให้ชัดตั้งแต่แรก บอกเป้าหมาย ขอบเขต และรูปแบบผลลัพธ์ในข้อความแรก ไม่ต้องค่อย ๆ แย้มทีละนิด
- แบ่งงานเป็นช่วง งานใหญ่แบ่งเป็นสามช่วง จบช่วงหนึ่งแล้วค่อยขึ้นช่วงถัดไป
- สรุปเป็นระยะ สั่งว่า "สรุปสิ่งที่ตกลงกันไว้ตอนนี้เป็นข้อ ๆ" แล้วเก็บก้อนนั้นไว้
- เปิดแชทใหม่เมื่อเริ่มรก เอาก้อนสรุปไปวางเป็นข้อความแรกของหน้าต่างใหม่
ตัวอย่างงานร้านจริง
ทำเว็บร้านอาหารหนึ่งเว็บ อย่าคุยรวดเดียวตั้งแต่ออกแบบยันขึ้นออนไลน์ ให้แบ่งเป็นสามหน้าต่าง หน้าต่างแรกสรุปว่าจะทำอะไร หน้าต่างที่สองทำหน้าเมนู หน้าต่างที่สามเอาขึ้นออนไลน์ แต่ละหน้าต่างเปิดด้วยก้อนสรุปจากหน้าต่างก่อน
ลองทำเลย
จบงานคราวหน้า ให้พิมพ์ว่า "สรุปสิ่งที่เราตกลงกันวันนี้เป็นข้อ ๆ พร้อมสิ่งที่ยังค้างอยู่" แล้วเซฟก้อนนั้นไว้ในโน้ต ครั้งหน้าเปิดหน้าต่างใหม่แล้ววางก้อนนี้ก่อนเริ่ม
สไลด์ 5 — ไม่ใช่ยิ่งเยอะยิ่งดี
สไลด์สุดท้ายเทียบสองแบบ ฝั่งซ้ายคือโยนทุกอย่างเข้าไปจนรก ฝั่งขวาคือใส่เฉพาะที่จำเป็นและจัดเป็นระบบ ผลลัพธ์ต่างกันชัด
ของที่ควรอยู่ในหน้าต่างมีสามอย่าง คือ บรีฟ ว่าจะทำอะไร ข้อมูลที่จำเป็นกับงานรอบนี้ และ สรุปว่าตกลงอะไรไปแล้ว ส่วนไฟล์ที่ไม่เกี่ยว เอาออกได้เลย
AI ต้องการข้อมูลที่ถูกต้อง ในเวลาที่เหมาะสม ไม่ใช่ข้อมูลทั้งหมดที่เรามี
เช็คลิสต์ก่อนไปบทถัดไป
- อธิบายได้ว่าทำไมคุยยาวแล้ว AI เริ่มลืม
- รู้จักสัญญาณสามอย่างที่บอกว่าควรเปิดหน้าต่างใหม่
- เคยสั่งให้ AI สรุปงานเป็นข้อ ๆ แล้วเก็บไว้ใช้ต่อ
- เลิกนิสัยแนบไฟล์ทุกอย่างเผื่อไว้ก่อน