OpenAI開發者大會 推4功能驅動AI更便宜、普及

2024-10-04

開發ChatGPT的OpenAI今天舉辦開發者大會，相較於去年，今年顯得格外低調，沒有進行直播，執行長阿特曼也沒有現身。會中針對開發者宣布4項可以降低成本、並讓AI應用可以更加普及的功能。

OpenAI今天在舊金山舉辦第2屆開發者大會（DevDay），公司前一週才經歷技術長穆拉提（Mira Murati）離職的連串人事動盪，還有公司轉型為營利企業的爭議，今年活動顯得格外低調。

科技新聞網站TechCrunch報導，產品長魏爾（Kevin Weil）在會前強調，穆拉提和研究長麥克葛魯（Bob McGrew）等人離開不會影響公司的進展，並表示他們對OpenAI今天的成就貢獻卓著，公司「不會放慢腳步」。

去年開發者大會結束後不久，OpenAI發生執行長阿特曼（Sam Altman）被董事會開除風波，人事動盪持續將近一年，阿特曼今天並未出席。

此外，在去年的開發者大會上，OpenAI仿效大型科技公司的策略，向消費者宣布新模型和產品，今年改變作風，主要向開發者社群宣布4項功能。

這4項功能包括「提示緩存（Prompt Caching）」，也就是開發者通過重複使用先前執行過的符元（token），能夠大幅降低成本。

第2項新功能為「視覺微調（Vision Fine-Tuning）」，開發者可以微調AI模型使之更佳地識別特定圖像，為「自動駕駛」或「醫學影像」應用開啟新頁。

另一項受到較多媒體關注的是即時API（Realtime API）功能，讓開發者打造多模態（語音、文字、圖像）、更低延遲的對話應用，並且更輕鬆地將進階語音功能整合到應用程式中。例如，讓AI代理人打電話訂購巧克力。

此外，還有讓AI更易於使用的「模型提煉（Model Distillation）」，被視為一項變革。開發人員可以使用OpenAI大型模型來「訓練」更小的模型，以此創造出針對特定需求的客製化版本，同時運行速度更快，成本更低。

舉例來說，醫療照護新創公司可以利用這項功能，開發能夠在一般硬體設備上執行的AI診斷工具，讓資源有限的環境更容易獲得AI解決方案。

OpenAI產品經理高德蒙（Olivier Godement ）表示，公司將不急於在每次活動中推出新模型，而是根據模型的研究進度和安全性，來決定何時推出新產品。

（相關資訊來自CNA）