MediaTek เสริมศักยภาพเอดจ์และเร่งความเร็วดาต้าเซ็นเตอร์ด้วย AI ไฮบริด โดยดร. Kevin Jou

MediaTek เสริมศักยภาพเอดจ์และเร่งความเร็วดาต้าเซ็นเตอร์ด้วย AI ไฮบริด โดยดร. Kevin Jou

 

เสริมศักยภาพเอดจ์และเร่งความเร็วดาต้าเซ็นเตอร์ด้วย AI ไฮบริด

โดยดร. Kevin Jou รองประธานบริหารองค์กรและ CTO แห่ง MediaTek

ขณะนี้เราได้ก้าวเข้าสู่ 'ยุคแห่งความจุมหาศาล' ของแมชชีนเลิร์นนิงมาเป็นเวลาหลายปีแล้ว เรากำลังประสบปัญหาด้านปริมาณความจุที่เพิ่มขึ้นถึงสองเท่าทุก ๆ 10 เดือนโดยประมาณ ที่ MediaTek เรากำลังเร่งนำ AI มาใช้ที่เอดจ์ซึ่งอยู่ในอุปกรณ์ไม่ว่าจะเป็นที่บ้าน สมาร์ทโฟน และอาจจะอยู่ในยานพาหนะในอีกไม่นานนี้ด้วย ทั้งหมดนี้ก็เพื่อสร้างสิ่งที่ฉลาดล้ำขึ้นทุกวันที่สามารถรับรู้และตอบสนองต่อความต้องการและสภาพแวดล้อมต่าง ๆ ได้  

ด้วยแมชชีนเลิร์นนิงและโปรเซสเซอร์ AI ที่มาช่วยขับเคลื่อนนั้นกำลังเพิ่มปริมาณขึ้นอย่างมหาศาลMediaTek จึงได้พัฒนาโปรเซสเซอร์ AI ของตัวเองหรือ APU มาเป็นเวลาเกือบเจ็ดปีแล้ว ซึ่งก็มีความสำคัญพอ ๆ กับ CPU และ GPU ภายในชิป SoC  โดยในปีนี้จะได้เห็นการเปิดตัวสถาปัตยกรรม AI รุ่นที่ 7 ซึ่งจะมีอยู่ในผลิตภัณฑ์ระดับเรือธงรุ่นล่าสุดของเราเร็ว ๆ นี้

เพื่อยกระดับการพัฒนาผลิตภัณฑ์สำหรับพันธมิตรของเรา เราได้ใช้ NeuroPilot ® SDK เพื่อรองรับ APU ทุกรุ่นได้อย่างเต็มรูปแบบ นักพัฒนาจึงสามารถใช้ศักยภาพของอุปกรณ์ของตนได้อย่างเต็มที่ พร้อมกันนี้ทีมวิจัยของเราก็กำลังตรวจสอบและเผยแพร่เอกสารทางวิทยาศาสตร์ วารสาร และเอกสารไวท์เปเปอร์เกี่ยวกับสิ่งที่ AI รุ่นต่อไปจะสามารถทำได้

เรามาถึงจุดที่ MediaTek ได้ขับเคลื่อนอุปกรณ์ที่มีการเชื่อมต่อมากกว่า 2 พันล้านเครื่องในทุก ๆ ปีซึ่งหลายเครื่องใช้ APU ของเรา ทำให้เรากลายเป็นซัพพลายเออร์ AI ชั้นนำแห่งหนึ่งของโลก มากกว่านั้นเรายังมีบริการ Enterprise ASIC โดยเฉพาะสำหรับบริษัทที่ต้องการสร้างโซลูชัน AI สำหรับดาต้าเซ็นเตอร์แบบเฉพาะที่มีประสิทธิภาพสูงเป็นพิเศษ อีกทั้งยังมีสถาปัตยกรรม Deep Learning Accelerator (DLA) ที่ยืดหยุ่นและเทคโนโลยี SerDes ระดับแนวหน้าสำหรับระบบเครือข่ายที่ล้ำกว่าใคร โดยทั้งหมดที่กล่าวมานี้อยู่ในแพลตฟอร์มขนาดกะทัดรัดเพียงแพลตฟอร์มเดียวเท่านั้น

พัฒนาการของการใช้งานเอดจ์ AI

ตั้งแต่ปี 2557 เราอยู่ระดับแนวหน้าของการใช้งาน AI ที่ล้ำสมัยพร้อมด้วยระบบสั่งงานด้วยเสียงและลำโพงอัจฉริยะ โดยได้พัฒนาไปพร้อมกับเทคโนโลยี Computer Vision และการประมวลผลภาพในการถ่ายภาพ จากนั้นจึงกลายเป็นการถ่ายวิดีโอ การเล่นสื่อ และการเล่นเกม ไปสู่เทคโนโลยี VR และ AR และตอนนี้กลายเป็น Generative AI

AI แบบดั้งเดิมซึ่งเป็น AI ที่ประยุกต์ใช้กับคอนเทนต์ที่มีอยู่แล้วนั้นสามารถดำเนินการบนอุปกรณ์ที่มีประสิทธิภาพการคำนวณในช่วงนับสิบล้านล้านการดำเนินการต่อวินาทีและโดยทั่วไปจะถูกจำกัดด้วยความสามารถของโปรเซสเซอร์ AI ในขณะที่ AI เจนเนอเรชั่นต้องการประสิทธิภาพมากกว่า 10 เท่าถึง 100 เท่า และในปัจจุบันมีข้อจำกัดมากกว่าตามความจุและประสิทธิภาพหน่วยความจำที่มีอยู่

อย่างไรก็ตาม แม้ว่าการใช้บริการ Generative AI ผ่านคลาวด์นั้นมีต้นทุนสูงเกินไปและโดยทั่วไปสามารถใช้งานได้แบบจำกัด แต่การนำเทคโนโลยีใหม่มาสู่มือของผู้คนและธุรกิจจะก่อให้เกิดประโยชน์ต่อสังคมและเศรษฐกิจโลกมากขึ้น ดังนั้น ณ ตอนนี้จึงมีความพยายามในการเพิ่มประสิทธิภาพโมเดลภาษาขนาดใหญ่ (LLM) สำหรับงานและอุปกรณ์เฉพาะที่เราใช้ทุกวัน

ความก้าวหน้าดังกล่าวจึงเป็นเรื่องมิได้ใกล้เกินเอื้อมในอนาคตอันใกล้นี้

เอดจ์สุดล้ำ

มาดูกันว่าเอดจ์ AI มีข้อดีด้วยเหตุผลสำคัญหลายประการใดบ้าง 

  1. การใช้พลังงานโดยรวมและการส่งข้อมูลมีประสิทธิภาพมากขึ้น เนื่องจากข้อมูลที่รวบรวมไว้บนอุปกรณ์เฉพาะทางด้านการออกแบบจะกรองสิ่งที่ไม่จำเป็นออกโดยเร็วที่สุด หากจำเป็น อุปกรณ์จะสามารถจัดเก็บข้อมูลที่ประมวลผลล่วงหน้าไว้ให้พร้อมสำหรับช่วงที่มีการใช้งานเครือข่ายต่ำหรือมีค่าใช้จ่ายด้านพลังงานก่อนที่จะส่งข้อมูลไปยังศูนย์ควบคุมส่วนกลาง
  2. สำหรับอุปกรณ์ Human-Machine Interface (HMI) เฉพาะ ค่าความหน่วงที่ลดลงจะช่วยยกระดับประสบการณ์ผู้ใช้ เนื่องจากอุปกรณ์แต่ละเครื่องไม่ต้องเสียเวลาไปกับความหน่วงของเครือข่าย เมื่อการโต้ตอบแต่ละครั้งได้รับการประมวลผลจากบริการคลาวด์
  3. เมื่อเก็บข้อมูลไว้ในอุปกรณ์ อุปกรณ์ Edge จะมีความปลอดภัยมากขึ้นและสามารถตอบสนองข้อกำหนดความเป็นส่วนตัวของข้อมูลได้ง่ายขึ้น
  4. อุปกรณ์อัจฉริยะแต่ละเครื่องสามารถรับรู้ถึงสภาพแวดล้อมแบบเรียลไทม์เมื่ออุปกรณ์นั้นทำงานอยู่ ซึ่งช่วยยกระดับความเป็นส่วนตัวในพื้นที่ที่ใช้งาน

AI สำหรับดาต้าเซ็นเตอร์จะยังคงเป็นผู้นำต่อไป

เห็นได้ชัดว่า AI ในดาต้าเซ็นเตอร์ซึ่งสามารถเข้าถึงได้ผ่านบริการคลาวด์สามารถมอบประสิทธิภาพอันทรงพลังที่สุดสำหรับการใช้งานที่ล้ำสมัย เช่น Generative AI เป็นต้น การสร้างสมดุลระหว่างคลาวด์และอุปกรณ์เอดจ์ที่ใช้ประโยชน์จากจุดแข็งทั้งสองอย่างจะมอบประสบการณ์การใช้งานที่ดีที่สุด

เสริมพลัง Gen-AI ในดาต้าเซ็นเตอร์ด้วย AI ประสิทธิภาพสูงและ ASIC เครือข่าย

MediaTek พร้อมสร้างโมดูล AI เกรดดาต้าเซ็นเตอร์เพื่อให้บริการในยุคเทคโนโลยี Generative โดยบริการ Enterprise ASIC จากกลุ่มผลิตภัณฑ์ Deep IP ของเราสามารถสร้างความได้เปรียบในสนามแข่ง ซึ่งประกอบไปด้วยโปรเซสเซอร์ Deep Learning Accelerator (DLA) ชั้นนำในวงการและเทคโนโลยี SerDes พร้อมทั้งความเชี่ยวชาญด้านการออกแบบ IC ระดับโลกในด้านเทคโนโลยีการผลิตระดับแนวหน้า อีกทั้ง Chip-to-Chip 2.5D /เพคเกจจิ้งขั้นสูงแบบ 3 มิติ พร้อมทั้งศักยภาพในการดำเนินงานของเรา ห่วงโซ่อุปทานที่เรามั่นใจ และการเข้าถึงทั่วโลก ล้วนเป็นประโยชน์ต่อผู้ให้บริการ AI ระดับไฮเปอร์สเกลและ OEM ระดับเทียร์ 1 หากต้องการสร้าง Generative AI  as a Serviceรุ่นใหม่ ๆ

เอดจ์และคลาวด์คือพันธมิตรที่ดีที่สุดสำหรับ AI ไฮบริด

MediaTek ขับเคลื่อนและรองรับการใช้งานรวมถึงเทคโนโลยี AI ได้อย่างโดดเด่นในวงการ ไม่ว่าจะใช้งานบนคลาวด์ เอดจ์ในอุปกรณ์ หรือเป็นการทำงานร่วมกันแบบไฮบริดที่ใช้ประโยชน์จากทั้งคลาวด์และเอดจ์ร่วมกันก็ตาม

วันที่ : 15/2/2567