เก่าแล้วไง! วิศวกรหัวใส นำ Generative AI ไปรันกับ PowerBook G4 ของเก่าแก่กว่า 20 ปี

ด้วยเทคโนโลยีที่เปลี่ยนแปลงอย่าวรวดเร็วทำให้หลายคนเลือกจะซื้อคอมพิวเตอร์ใหม่ แต่อาจจะไม่ได้เป็นกับวิศวกรหลายๆ คนอย่างเช่น Andrew Rossignol ซึ่งเขาเป็น วิศวกรซอฟต์แวร์ ได้เผยแพร่เรื่องราวสุดทึ่งในบล็อกของเขาถึงวิธีการที่เขาสามารถรัน Generative AI บนเครื่อง PowerBook G4 ที่ตอนนี้มีอายุมากกว่า 20 ปีแล้ว

แม้ว่า Large Language Models (LLMs) จะต้องการสเปคฮาร์ดแวร์ที่สูง แต่ PowerBook G4 รุ่นนี้จากปี 2005 กลับมาพร้อมกับหน่วยประมวลผล PowerPC G4 ความเร็ว 1.5GHz และ RAM เพียง 1GB เท่านั้น อย่างไรก็ตาม วิศวกรรายนี้สามารถทำให้โมเดล LLM อย่าง Llama 2 ของ Meta ทำงานบนแล็ปท็อปเครื่องนี้ได้สำเร็จ

 

ความสำเร็จนี้มาจากการพอร์ตโปรเจกต์โอเพนซอร์ส llama2.c และใช้ประโยชน์จากการเร่งประสิทธิภาพด้วยส่วนขยายเวกเตอร์ PowerPC ที่เรียกว่า AltiVec

แต่ไม่ได้มีแค่เรื่องการรันโมเดล Generative AI บนอุปกรณ์เก่าๆ เช่น PlayStation 3, Xbox 360 และอุปกรณ์อื่นๆ ซึ่งแสดงให้เห็นถึงความเป็นไปได้ในการนำ AI มาประยุกต์ใช้กับฮาร์ดแวร์รุ่นเก่าก็มีมานานแล้ว