Mozilla投入3,000萬美元成立新創Mozilla.ai，以發展可信任生成式AI工具

Mozilla宣布成立人工智慧新創公司Mozilla.ai以及相關社群，建立可信任且獨立的開源人工智慧生態系，投入3,000萬美元資金，首要目標是開發安全且透明的生成式人工智慧工具。

近期人工智慧技術蓬勃發展，許多應用和服務都整合機器學習模型，提供創新服務，這波熱潮由Stable Diffusion等文生圖模型，以及類似GPT-4等大型語言模型所驅動，Mozilla認為，生成式人工智慧（Generative AI）工具足以對人類溝通、創造力，甚至是整個社會，產生深遠的影響。

生成式人工智慧是指特定一類的人工智慧技術，能夠自動生成具有特定特徵，或是符合特定規則的資料，目前生成式人工智慧被應用在多種領域上，諸如圖像生成、語音合成、自然語言處理以及圖形合成等，由於該技術能夠一定程度模仿人類的創造力，因此生成式人工智慧能夠創作圖像、音樂和文本。

Mozilla提到，儘管新一波人工智慧浪潮讓人興奮，但同時也帶來了憂慮。在越來越多應用整合生成式人工智慧，也讓人發現了更多該技術許多缺陷，像是模型生成結果的不可控制性，人工智慧可能會產生不符道德或是不真實的內容，或是如Deepfake技術被濫用在不道德和惡意的目的上，且由於模型訓練需要有大量的資料，因此人工智慧生成的產物，也存在著作權和智慧財產權等問題。

Mozilla在過去與社群反覆探討相關問題下，勾勒出他們認為可信任人工智慧應該有的樣子，並且決定投入資源創立可以實現該願景的新創公司。雖然社群正在建構開源人工智慧技術，並且發展稽核方法，試圖建立可信任的人工智慧技術，但Mozilla認為，目前對人工智慧最具影響力的大型科技公司，他們並沒有看到足夠的努力，甚至這些公司更重視鞏固市場的控制。

Mozilla.ai將從非營利組織Mozilla拿到3,000萬美元資金，建立開源社群以及建構可信任人工智慧。Mozilla.ai目標是開發同時具有代理性、責任性和透明性的人工智慧系統。

也就是說，Mozilla.ai將發展具有一定程度的自主性和能力人工智慧系統，該系統將使相關利益方對人工智慧系統的行為負起責任，他們所開發的人工智慧系統，運作原理和決策過程也會清晰易懂，讓人們因為其透明機制而能夠信任人工智慧，Mozilla也特別強調了開放性，認為人工智慧應該開放利益相關者參與、評估和改進，以促進技術創新，保持公平、公正和無歧視性。

Mozilla.ai最初的重點在於開發安全且透明的生成式人工智慧工具，發展以人為本的推薦系統，避免散布錯誤訊息，Mozilla.ai還會在接下來數個月發布更多相關資訊和成果。