Cerebras Systems บริษัท สตาร์ทอัพในสหรัฐอเมริกาเปิดตัวชิปที่ใหญ่ที่สุดที่รวมทรานซิสเตอร์มากกว่า 1.2 ล้านล้านตัวและมีขนาด 46,225 ตารางมิลลิเมตร ชิป Cerebras Wafer Scale Engine (WSE) ใหม่ได้รับการปรับให้เหมาะสมกับAIและมีขนาดใหญ่กว่าหน่วยประมวลผลกราฟิกที่ใหญ่ที่สุดถึง 56.7 เท่าซึ่งมีขนาด 815 ตารางมิลลิเมตรและมีทรานซิสเตอร์ 21.1 พันล้านตัว Cerebras Wafer Scale Engine (WSE) ใหม่ให้ความเร็วสูงขึ้น 3,000 เท่าหน่วยความจำบนชิปและมาพร้อมกับแบนด์วิดท์หน่วยความจำที่เพิ่มขึ้น 10,000 เท่า ชิปที่มีขนาดใหญ่ขึ้นทำให้มั่นใจได้ว่าสามารถประมวลผลข้อมูลได้รวดเร็วยิ่งขึ้นและยังสามารถลดเวลาในการทำความเข้าใจหรือ“ เวลาในการฝึกอบรม” ซึ่งช่วยให้นักวิจัยสามารถทดสอบแนวคิดเพิ่มเติมใช้ข้อมูลมากขึ้นและแก้ปัญหาใหม่ ๆ
Cerebras WSE ได้รับการออกแบบมาสำหรับ AI และมีนวัตกรรมพื้นฐานที่ก้าวล้ำนำสมัยโดยการแก้ปัญหาด้านเทคนิคที่มีมานานหลายทศวรรษซึ่งมีขนาดชิปที่ จำกัด เช่นการเชื่อมต่อแบบข้ามเส้นเล็งผลผลิตการส่งกำลังและบรรจุภัณฑ์ WSE สามารถเร่งการคำนวณและการสื่อสารซึ่งช่วยลดเวลาในการฝึกอบรม WSE มีพื้นที่ซิลิกอนมากกว่าหน่วยประมวลผลกราฟิกที่ใหญ่ที่สุดถึง 56.7 เท่า นอกจากนี้ WSE ยังสามารถจัดเตรียมคอร์เพิ่มเติมเพื่อทำการคำนวณได้มากขึ้นและมีหน่วยความจำที่อยู่ใกล้กับคอร์มากขึ้นเพื่อให้คอร์ทำงานได้อย่างมีประสิทธิภาพ การสื่อสารทั้งหมดจะถูกเก็บไว้ในซิลิกอนเนื่องจากมีคอร์และหน่วยความจำมากมายฝังอยู่ในชิปตัวเดียว
ชิป Cerebras WSE ประกอบด้วยซิลิกอน 46,225 มม. 2 และมาพร้อมกับ 400,000 AI ที่ปรับให้เหมาะสมไม่มีแคชไม่มีค่าใช้จ่ายในการประมวลผลคอร์และหน่วยความจำ SRAM ในเครื่องขนาด 18 กิกะไบต์แบบกระจายความเร็วสูง ชิปดังกล่าวมาพร้อมกับแบนด์วิดท์หน่วยความจำ 9 เพตะไบต์ต่อวินาทีโดยที่คอร์ถูกเชื่อมโยงเข้าด้วยกันด้วยเครือข่ายการสื่อสารที่เชื่อมต่อด้วยตาข่ายบนชิปแบบฮาร์ดแวร์ทั้งหมดที่ละเอียดซึ่งให้แบนด์วิดท์รวม 100 เพตะบิตต่อวินาที ซึ่งหมายความว่าแบนด์วิดท์การสื่อสารที่มีเวลาแฝงต่ำของ WSE นั้นมีขนาดใหญ่มากซึ่งทำให้กลุ่มของคอร์ทำงานร่วมกันได้อย่างมีประสิทธิภาพสูงสุดและแบนด์วิธหน่วยความจำจะไม่เป็นปัญหาคอขวด หน่วยความจำในตัวเครื่องที่มากขึ้นคอร์ที่มากขึ้นและแฟบริคแบนด์วิดท์สูงที่มีเวลาแฝงต่ำรวมกันเป็นสถาปัตยกรรมที่ดีที่สุดสำหรับการเร่งการทำงานของ AI
คุณสมบัติของชิป Cerebras WSE:
- แกนที่เพิ่มขึ้น: WSE ผสานรวม 400,000 แกนประมวลผลที่ปรับให้เหมาะสมกับ AI ที่เรียกว่า SLAC (Sparse Linear Algebra Cores) ซึ่งตั้งโปรแกรมได้ยืดหยุ่นและปรับให้เหมาะสมสำหรับพีชคณิตเชิงเส้นแบบกระจัดกระจายซึ่งรองรับการคำนวณเครือข่ายประสาททั้งหมด คุณลักษณะความสามารถในการเขียนโปรแกรมของ SLAC ช่วยให้มั่นใจได้ว่าคอร์สามารถเรียกใช้อัลกอริทึมเครือข่ายประสาทเทียมทั้งหมดได้อย่างง่ายดายในฟิลด์การเรียนรู้ของเครื่องที่เปลี่ยนแปลง แกน WSE รวมเทคโนโลยีการเก็บเกี่ยวแบบกระจัดกระจายที่คิดค้นโดย Cerebras ซึ่งช่วยเร่งประสิทธิภาพการคำนวณในปริมาณงานที่เบาบาง (ปริมาณงานที่มีศูนย์) เช่นการเรียนรู้เชิงลึก
- หน่วยความจำที่เพิ่มขึ้น: Cerebras WSE รวมหน่วยความจำในตัวเครื่องมากขึ้นพร้อมกับคอร์ที่มากกว่าชิปใด ๆ ที่ช่วยให้สามารถคำนวณได้อย่างยืดหยุ่นและรวดเร็วในเวลาแฝงที่ต่ำกว่าและใช้พลังงานน้อยลง WSE มาพร้อมกับหน่วยความจำบนชิป 18 GB (กิกะไบต์) ที่แกนกลางสามารถเข้าถึงได้ในหนึ่งรอบนาฬิกา คอลเลกชันของหน่วยความจำคอร์ - โลคัลนี้ทำให้ WSE ส่งมอบแบนด์วิดท์หน่วยความจำรวม 9 เพตะไบต์ต่อวินาทีซึ่งเป็นแบนด์วิธหน่วยความจำเพิ่มขึ้น 10,000 X และ 3,000 X