AI System

曾伟 2024-07-31

简介:为什么在AI时代,需要重新重新构建AI计算系统(包括设计AI芯片、AI编译器、AI框架等),难道用之前旧的那一套不行吗?对于这个问题,我理解不深,我希望能仔细探究一番。

入门

首先是性能,传统CPU计算系统必然是不可能满足现在的AI算法对计算性能和存储带宽的需求的,但是不是有GPU吗?其次就是能效和成本,尽管GPU并行计算能力已经非常强大,但是在能耗和成本方面并不总是最优,专用芯片ASIC可以在处理特定任务时显著降低功耗和成本,提高性价比。的确,发展专用的AI专用芯片可以在性能、能效和使用成本上吊打GPU(缺点是研发成本高)。另外,不同的应用场景(如自动驾驶、物联网、边缘计算等)对计算需求和资源的要求各不相同。通过开发多样化的AI芯片,可以更好地满足不同市场的需求,从而推动技术的普及。而且,科学家还需要研究新型计算模式,比如量子计算、光子计算。