【財新網(wǎng)】從ChatGPT聊天機器人于去年11月發(fā)布，它就被譽為2022年最令人印象深刻的技術創(chuàng)新之一。這個強大的AI聊天機器人幾乎可以生成任何主題的文本，從重寫莎士比亞十四行詩，到用5歲孩子都能理解的語言描述復雜數(shù)學定理。一周之內(nèi)，它的用戶就超過了100萬。OpenAI成為世界上最有價值的人工智能公司之一。

　　然而隨著越來越多生成式人工智能（AIGC）大模型下場試水，人們發(fā)現(xiàn)有時候大模型不僅會一本正經(jīng)的胡說八道，更有不法分子用來生成足以亂真的虛假信息，這讓很多人開始憂慮，在大模型開始學會賺錢之前，是否應當先預防大模型作惡。