NEC 集團（NEC Corporation, TSE：6701）已開發並將提供可針對每個客戶進行客製化的生成式人工智慧（AI）服務，協助客戶因應新技術帶來的商業變革，並為企業創造新價值。此一新的「NEC生成式AI服務」將從今年七月起於日本推出，提供獲有專利的大型語言模型（LLM）授權、專用的硬體、軟體以及諮詢服務等，並將在 2024 會計年度後逐步擴展到新的市場。
此外，NEC已與近10家公司和大學合作，於7月推出「NEC生成式AI進階客戶計畫」，透過該計畫，NEC將與客戶合作，支援他們創建模型，以及開發善用LLM的軟體、組織等。
另外，NEC在今年7月1日成立了「NEC 生成式AI中心」，作為專門推動客戶業務轉型的部門，此部門由研究人員、提供精準AI指導的提示工程師（prompt engineer）、顧問、數位信任專家等專業人員組成。NEC的目標是藉由這些生成式AI相關業務，在未來三年內達成500億日元（約 3.46 億美元）的銷售額。
生成式AI領域正受到市場極大的關注，這是因為各個企業和地方政府都考慮使用各種語言模型進行業務轉型，例如 ChatGPT，在2022年11月推出服務後兩個月內用戶數量就超過一億。
然而，使用生成式AI時，將面臨資訊洩露和安全弱點等安全問題，以及與系統準確性和持續使用相關的問題。此外，企業的AI應用必須致力於比翻譯和摘要更重要的用途，例如針對公司所累積的知識建立模型，以及開發一套促進公司內部AI使用的系統。
NEC集團於今年五月開始在內部業務中使用生成式AI，在兩週內建立了員工可以安心、安全使用的環境和系統。該系統連結到內部聯繫和網路會議工具等內部系統，目前約有二萬名使用者，每天使用約一萬次。
系統導入後已見有成效，例如開發內部系統所需編寫原始碼的工時減少了80%，產生文件所需的時間減少了50%，以及撰寫會議記錄所需時間從平均30分鐘減少到約5分鐘。
NEC將除了繼續利用該系統來改進文件校對及所有員工其他共同任務的效率外，也將運用在軟體開發等專業領域，並展現NEC藉由內部使用LLM相關服務所累積的專業知識。
在解決這些挑戰和內部使用經驗的基礎上，現在NEC將運用自有的生成式AI協助客戶創造新的企業價值。
NEC獨特的LLM功能
- 精通日語：在業務營運所需的知識量和閱讀理解能力方面達到頂尖水準
- 輕量級：模型的規模輕巧，可在標準GPU伺服器上執行