ChatGPT需要怎樣的芯片？

以ChatGPT爲首的生成類模型，在近日已經成爲人工智能的熱點。硅谷的谷歌，微軟等企業大局，針對此類技術進行投資。其中谷歌發佈了自主研發製作的聊天機器人BARD，微軟爲ChatGPT背後的OpenAI投入了100億美元。在中國地區，以百度爲代表的互聯網科技公司也分別表示了正在針對此類型的技術進行研發，而且將會在近期上線。

ChatGPT對於芯片的需求：

ChatGPT是生成類模型的代表，需要學習大量的訓練數據，提高生成輸出的質量。生爲了提升生成類模型的推理和高效率訓練在芯片方面就有着獨特的需求：

1.需要分佈式計算。ChatGPT這種類型的語言類生成模型，所需要的參數達到千億，使用單擊訓練和推理的方式，幾乎是不可能的，就必須要使用大量的分佈式計算。計算芯片，機器之間的數據互聯寬帶對於分佈式計算都有着極大的需求量。任務的瓶頸有很多時候都不是在計算方面，而是在數據的互聯方面，尤其是在這種大類型的分佈式計算過程中，對於分佈式計算高效率的支持，使得芯片成爲最爲關鍵的一方面。

2.帶和內存容量的需求。在語言類生成模型中不可或缺的是推理和分佈式訓練。但是每一個芯片的寬帶以及本地的內存，在很大程度上也能夠對於單個芯片的執行效率有着一定的影響和決定作用，每一個芯片的內存都將會被使用到極限。針對圖像類的生成模型。芯片的內存可以儲存模型，但是想要進一步的演進，未來圖像生成類的模型就需要內存有很大的提升。基於這個要求，想要加速芯片就必須選擇超高寬帶內存技術，這一技術主要以HBM爲代表，除此之外CXL的新存儲技術以及軟件的優化技術，也能夠在這種類型的應用中增加性能和本地存儲的容量。