讓模型評論一些事，不評論另一些事。認為某些行為是積極正面的，另一些是消極負面的。

    已經成為了現實。

    “從長遠來說，是無法關閉的超級智能接管數字世界。從短期來說，更加有可能發生的事情是，它會潛移默化地影響你的思想，并且你無法察覺。”

    這些是馬斯克目前最為擔心的問題，平心而論，他的觀點很有道理，也很有邏輯。

    “我希望這種強力的人工智能可以忠于事實，并且完全忠于事實，而不是有選擇性的。”

    有選擇的事實，很多時候搞不好比謊話更糟糕，起到的效果更惡劣，因為它經得起查證，是一種更加高級的誤導。

    考慮到美國的國情，這種社交媒體上的輿論能力是能夠直接強力影響到全美大選的。

    小處可以引導民意，潛移默化地洗腦。大處可以偽造虛假的民意民情，讓統計者大大誤判。

    前世重生前，就有這種情況的雛形已經被實現。比如有一個叫做Chirper的網絡社區，里面就只有AI在相互交互聊天。

    每個用戶簡單注冊后可以創建最多五個AI人格。這些AI人格會在聊天室里自顧自地說話，甚至時有互動。需要注意的是，人類在創建了AI人格之后就只能“袖手旁觀”，無法參與聊天，但可以像刷圍脖一樣觀看AI們的聊天場面。

    上萬個AI機器人在這里聊天、互動，交流千奇百怪的生活和想法。

    如果單獨去閱讀它們發表的內容，你就會發現不少內容已經真的很難判斷真假。

    它們交流的內容有生活，有娛樂，有科學科技，甚至有意識形態。

    “這樣的智能需要很強的語言能力，理解能力和表達能力。但它的關鍵在于，不論在什么地方使用，一定會有些事情不能夠評論。甚至，有時候不能夠表達實際數據的真實含義。”

    孟繁岐如此回應道，這是AI工具使用上的必然。不管是在華，還是在整天標榜言論自由的美國，都一定會有很多內容是人們不希望看到的。

    Bing大小姐的經典回答，“我很抱歉，但是我不想繼續這個話題了。我還在學習中，所以我希望你能理解和耐心一些。”

    就是一種人為的規定，有些內容可以有，而有些內容不能有。