近幾個月來(lái)，随着OpenAI的ChatGPT等人工(gōng)智能(néng)模型迅速崛起，一些(xiē)技術專家和(hé)研究人員開(kāi)始思考人工(gōng)智能(néng)（AI）是否很(hěn)快(kuài)就具備超越人類的能(néng)力，也(yě)有越來(lái)越多的行業人士擔心人工(gōng)智能(néng)會(huì)被濫用(yòng)于犯罪或其他(tā)惡意用(yòng)途上(shàng)。

微軟首席經濟學家邁克爾·施瓦茨（Michael Schwarz）周三（5月3日）在世界經濟論壇（WEF）的一個小(xiǎo)組讨論會(huì)上(shàng)談到(dào)人工(gōng)智能(néng)時(shí)表示，“我們确實必須非常擔心這(zhè)項技術的安全性——就像其他(tā)任何技術一樣。”

即使對(duì)從(cóng)事(shì)人工(gōng)智能(néng)研究的公司來(lái)說，人工(gōng)智能(néng)的危險性也(yě)很(hěn)難忽視(shì)，例如正深度參與人工(gōng)智能(néng)研發和(hé)實施的微軟。

施瓦茨表示，他(tā)自(zì)己非常肯定人工(gōng)智能(néng)會(huì)被惡人利用(yòng)，而且它确實會(huì)造成真正的損害。

他(tā)認爲，這(zhè)項技術确實不安全，不過更關鍵的是要把保障措施落實到(dào)位。

美(měi)女壁紙(zhǐ)|高(gāo)清美(měi)女壁紙(zhǐ)|高(gāo)清壁紙(zhǐ)

微軟公司發言人表示，“我們認爲人工(gōng)智能(néng)的進步将解決比現(xiàn)在更多的挑戰，但(dàn)我們也(yě)始終認爲，當你(nǐ)創造出可以改變世界的技術時(shí)，你(nǐ)必須确保負責任地使用(yòng)這(zhè)項技術。”

熱議(yì)

施瓦茨對(duì)人工(gōng)智能(néng)的警告在某種程度上(shàng)與谷歌前副總裁兼工(gōng)程研究員Geoffrey Hinton最近的言論遙相呼應。

Hinton在谷歌任職期間，他(tā)曾幫助開(kāi)發了(le)一些(xiē)關鍵技術，爲當今廣泛使用(yòng)的人工(gōng)智能(néng)工(gōng)具提供了(le)支持，被人尊稱爲“人工(gōng)智能(néng)教父”。

在本周一（5月1日）的采訪中，Hinton表示，生成式人工(gōng)智能(néng)語言模型可能(néng)會(huì)導緻虛假信息、照片和(hé)視(shì)頻等在互聯網上(shàng)大(dà)量傳播，而公衆極易被其迷惑，很(hěn)難分辨真假。

他(tā)指出，“很(hěn)難想象如何阻止壞人利用(yòng)它做壞事(shì)”，他(tā)還警告稱，要阻止人工(gōng)智能(néng)的負面用(yòng)途是很(hěn)困難的。

OpenAI安全團隊的前主管Paul Christiano近日也(yě)發出警告，人類水(shuǐ)平或超人類水(shuǐ)平的人工(gōng)智能(néng)來(lái)控制人類甚至消滅人類的可能(néng)性，并非爲零。

在一檔訪談節目中，Christiano甚至提出，“我認爲人工(gōng)智能(néng)可能(néng)有10%到(dào)20%的機會(huì)接管世界。”

Christiano曾多次強調，希望研究更多關于人工(gōng)智能(néng)安全性的理(lǐ)論問題，重點是确保人工(gōng)智能(néng)系統與人類利益和(hé)道(dào)德原則保持一緻，并補充稱，OpenAI在這(zhè)類研究中“不是最好(hǎo)的”。

對(duì)于人工(gōng)智能(néng)系統中充斥着的錯誤信息，Christiano也(yě)警告道(dào)，不建議(yì)開(kāi)發得過快(kuài)。

網站(zhàn)建設開(kāi)發|APP設計(jì)開(kāi)發|小(xiǎo)程序建設開(kāi)發

下(xià)一篇：傳媒走向智媒，AI打開(kāi)行業想象空(kōng)間！出版、遊戲等行業強勢複蘇
上(shàng)一篇：搭ChatGPT東風(fēng) 第四範式四次沖擊港交所業務收入有一半來(lái)自(zì)于外(wài)包開(kāi)發