สรุป Github Models: บริการ test-drive AI ไปจนช่วยขึ้น production สำหรับนักพัฒนาเปิดตัวแล้ว

ลองคิดดูว่า การที่พวกเราที่เป็น Developer จะสร้าง AI App หรือ Intelligent App ขึ้นมาสักตัวหนึ่ง 2 คำถามสำคัญของคนทำแอพคือ

1. Model ตัวไหนดีสุดอ่ะ
2. แล้วจะลอง Prompt ต่อ หรือใช้ Model ยังไงอ่ะ

Github Models น่าจะเป็นคำตอบจาก Github ผู้ให้บริการระบบ source control ที่ขับเคลื่อนชีวิตนักพัฒนาเกิน 100 ล้านคนทั่วโลกตอนนี้ครับ ว่าแล้วคลิกไปดูคลิปก่อน แล้วจะแปะลิ้งค์ลงชื่อรอ public beta ไว้ท้ายเรื่องน้า

โดยฟีเจอร์สำคัญๆ ที่ Github Models จะมีให้เรา ซึ่งเทียบตามขั้นตอนส่วนหนึ่งของ LLMOps คือ

1. Explore

ได้มีโอกาสทดสอบใช้งานพวก model ใหม่ๆ อย่างกลุ่ม Large Language Model (LLM) อย่าง Llama 3.1, GPT-4o, หรือ GPT-4o mini ไปจนถึง Small language model อย่าง Phi-3 บน Playground ได้ FREEEEEEE!

movement นี้นายแน่มาก ไม่ต้องไปที่ไหน อยากลอง Model มาที่ github นี่มา

ส่วนสำคัญคือเรื่องข้อมูลที่เรา prompt หรือได้รับในการใช้ Github Models Playground (เรียกชื่อนี้ก่อนแล้วกันเนอะ) จะ

• ไม่ถูกแชร์ให้เจ้าของ Model
• ไม่ถูกใช้ในการ train Model

ทำให้สบายใจได้ในระดับหนึ่งเลย

2. Implement

ดังนั้นพอลองใช้ผ่าน Playground จนสาแก่ใจแล้ว เรายังสามารถเริ่มเขียนโค้ดที่จะเรียกใช้ Model จากโค้ดโปรแกรมของเราได้

1. ในที่นี้ Github เสนอ Codespace ที่เป็นตัวจำลองเครื่องคอมที่ใช้เขียนโค้ด (Github account แบบฟรี ใช้ได้แบบจำกัดชั่วโมงต่อเดือน) ขึ้นโปรเจคจากหน้าเว็บได้เลย
2. จะเลือกเชื่อมข้อมูลในเครื่องกับ Github Actions ผ่าน Github CLI เพื่อรันทดสอบการทำงานของโปรเจค ในการทำ Prompt evaluation ก็ได้

3. Deploy & Monitor

พอระบบพร้อมแล้ว ก็สามารถเลือก Deploy ไปบน cloud ของ Microsoft ได้เลย

1. ใช้ github personal access token กับ azure subscription credential
2. deploy ใช้งาน Azure AI ใน ที่มีการ implement ทั้งเรื่อง Responsible AI, security, และ data privacy ไว้พร้อม

ดูเขาเดโมเต็มๆ กับ workflow ตั้งแต่การเลือก model จนถึง Deploy โปรเจคกัน