TPU؛ موتور اختصاصی گوگل برای یادگیری ماشین
گوگل برای کاهش وابستگی به سختافزارهای عمومی و افزایش سرعت یادگیری ماشین، TPU یا واحد پردازش تنسور را طراحی کرد. این شتابدهندهها اولین بار در سال ۲۰۱۵ در زیرساختهای داخلی گوگل به کار گرفته شدند و به سرعت به رکن اصلی دیتاسنترهای این شرکت برای آموزش مدلهای عظیم هوش مصنوعی تبدیل شدند.
در مورد TPU باید به یک نکته ظریف توجه کرد؛ گوگل از همین نام برای تراشههای سری «تنسور» در گوشیهای پیکسل (مانند خانواده پیکسل ۱۱) استفاده میکند. اما TPU موجود در یک گوشی هوشمند با غولهای دیتاسنتری گوگل تفاوت بنیادین دارد. در واقع، TPU داخل گوشیها بیشتر شبیه به یک NPU عمل میکند و وظایفی چون پردازش تصویر و اجرای مدلهای کوچک هوش مصنوعی روی خود دستگاه را بر عهده دارد.
تفاوت این دو نسخه در موارد زیر خلاصه میشود:
- مقیاس و توان:نسخههای دیتاسنتری برای پردازشهای کلان و آموزش مدلها طراحی شدهاند.
- مصرف انرژی:نسخههای موبایلی برای بهینه بودن در باتری گوشی بهینه شدهاند.
- ساختار:معماری سختافزاری هر دو متفاوت است، هرچند هر دو بر محاسبات تنسوری تمرکز دارند.
چرا GPUها هنوز در هوش مصنوعی میتازند؟
پردازنده گرافیکی یا GPU در اصل برای رندر کردن تصاویر و اجرای بازیها ساخته شده بود. اما ویژگی کلیدی این تراشهها، یعنی «توانایی انجام تعداد زیادی محاسبه بهصورت موازی»، آنها را به ابزاری ایدهآل برای هوش مصنوعی تبدیل کرد. مدلهای یادگیری ماشین نیاز دارند میلیاردها عملیات ریاضی ساده را همزمان انجام دهند و GPUها دقیقاً در همین نقطه میدرخشند.
امروزه یک GPU قدرتمند تنها ابزاری برای گیمرها یا تدوینگران ویدیو نیست، بلکه قلب تپنده ایستگاههای کاری برای آموزش مدلهای هوش مصنوعی و اجرای شبیهسازیهای پیچیده سهبعدی است.
NPU؛ متخصص کارهای روزمره هوش مصنوعی
در حالی که GPUها برای آموزش مدلهای سنگین عالی هستند، NPU یا واحد پردازش عصبی برای «اجرای» (Inference) این مدلها در دستگاههای کوچک بهینه شده است. NPUها با مصرف انرژی بسیار کمتر، کارهای تخصصی مانند تشخیص چهره، بهبود کیفیت عکس در لحظه و پردازشهای زبانی را در گوشیها و لپتاپهای جدید مدیریت میکنند تا فشار از روی CPU و GPU برداشته شود.