我與情感支援人工智慧伴侶的週末; 人工智慧的快速增長刺激了加強監管; 科學家警告人工智慧的危險，但不同意解決方案
AI簡報
2023-05-03 17:00 (NY)
全球媒體對人工智能（Ai)的報導，《AI 》團隊進行了分析、整理。
我與情感支援人工智慧伴侶的週末
紐約時報
美國人工智慧初創公司Inflection AI推出了Pi，這是一款提供情感支援的聊天機器人。與其他專注於回答問題或提高人們工作效率的聊天機器人不同，Pi 旨在與人進行對話並提供個性和對話天賦。該技術旨在成為“在您身邊的善良和支持的伴侶”。用戶通過在Inflection網站或免費應用程式上的奶油色框中輸入查詢來使用該服務，一次接收一段回復。聊天機器人已經接受了大約600名兼職「教師」的培訓，包括治療師，使其在適當的時候更準確，更輕鬆，更敏感。儘管人工智慧陪伴可能很有用，但學者和評論家警告說，如果聊天機器人提供不好的建議或促成有害行為，它可能會產生問題。
https://www.nytimes.com/2023/05/03/technology/personaltech/ai-chatbot-pi-emotional-support.html
人工智慧的快速增長刺激了加強監管
金融時報
根據今天《金融時報》的一篇文章，在商業中越來越多地使用生成式人工智慧正在增加監管辯論的緊迫性。美國教育公司Chegg是第一家在使用風度翩翩的聊天機器人ChatGPT后透露其財務狀況受到打擊的公司，負面反應導致Chegg的股價暴跌。包括Snap和谷歌在內的科技巨頭正在大力投資生成人工智慧，主要是廣告和聊天機器人。人工智慧利用了數據隱私、版權和錯誤信息的擔憂，並引發了人們的擔憂，它可能取代人類的工作。隨著歐盟起草一些世界上最強有力的技術規則，將指導方針與潛在的罰款相結合，監管的呼聲越來越高。科技歷史學家傑弗里·辛頓（Geoffrey Hinton）對錯誤資訊發出了警告，而埃隆·馬斯克（Elon Musk）則加入了1000多名高管和研究人員的行列，呼籲“暫停”六個月的開發。
https://www.ft.com/content/076da9e9-5dd9-4906-83cf-46fd99b2e9ca
科學家警告人工智慧的危險，但不同意解決方案。
美聯社
包括最高計算機科學獎共同獲得者傑弗里·辛頓（Geoffrey Hinton）在內的計算機科學家呼籲暫停六個月開發比OpenAI最新模型GPT-4更強大的人工智慧系統，並警告人工智慧風險，如就業市場不穩定，自動化武器和有偏見的數據集的危險。他的人工智慧先驅Yoshua Bengio與Hinton對聊天機器人的擔憂“非常一致”，但擔心簡單地說“我們註定要失敗”是無濟於事的。谷歌人工智慧道德團隊的前負責人瑪格麗特·米切爾（Margret Mitchell）對辛頓在谷歌掌權的十年中沒有發表意見感到不安。
聊天機器人能像斯蒂芬科爾伯特一樣有趣嗎？
BBC
美國的深夜電視由於作家對使用人工智慧（AI）編寫劇本的罷工而中斷。美國作家協會（WGA）聲稱，在編劇中使用人工智慧相當於抄襲，對作家的薪酬和工作條件構成威脅。為了測試人工智慧是否可以在罷工期間取代作家，一個團隊要求ChatGPT為《今夜秀》主持人吉米·法倫（Jimmy Fallon）寫一段開場獨白，並與斯蒂芬·科爾伯特（Stephen Colbert）一起為《深夜秀》（The Late Show）寫一篇類似的草圖。法倫的開場獨白很幽默，抓住了他對作家罷工的支援。科爾伯特的草圖沒有人類寫的那麼幽默，但仍然展示了模仿電視節目主持人風格和語氣的能力。然而，該機器人在當前事件中掙扎——例如關於拜登年齡的錯誤陳述——並且在講笑話方面缺乏準確性，導致對人工智慧和錯誤資訊傳播的擔憂。
https://www.bbc.com/news/world-us-canada-65465386
中國的人工智慧產業幾乎沒有因美國晶元出口規則而放緩
路透社
美國去年為遏制中國開發用於削減核武器和人工智慧系統的超級計算機而實施的出口管制對中國科技行業的影響微乎其微。這些控制限制了美國巨頭英偉達公司和先進微設備晶元的出貨量。然而，英偉達已經為中國市場生產了一種放緩的晶元變體，以滿足美國的規定，而中國自己的科技公司則被迫精簡其龐大的人工智慧系統以削減培訓成本。
人工智慧將如何改善世界——以及它將如何毀掉它
英國獨立報
領先的人工智慧研究人員在人工智慧的開發和實施方面並不統一。那些贊成暫停的人認為，必須解決安全問題，因為這可能會給社會帶來災難性的後果，而反對的人則擔心進展會受到阻礙。人工智慧的發展可能導致一個烏托邦般的狀態，社會沒有癌症和多行星物種等疾病，反烏托邦大規模失業導致社會崩潰或生物武器可以摧毀人口。
https://www.independent.co.uk/tech/ai-future-benefits-risks-apocalypse-b2331600.html
人工智慧在政治上迎來了它的時刻
華盛頓郵報
人工智慧和生物技術的興起對商業、隱私、自由和民主構成了威脅，美國國家情報總監艾薇兒·海恩斯（Avril Haines）表示。海恩斯在四月份在國會舉行的“全球威脅”聽證會上警告說，這些技術發展太快，政府和企業無法圍繞其使用制定指導方針。使用人工智慧傳播虛假信息的威脅尤其嚴重，眾議員伊薇特·克拉克（Yvette D. Clarke）在美國提出了一項立法，要求在政治廣告中披露人工智慧生成的內容。
同樣，拜登總統最近會見了他的科學和技術顧問委員會，討論了使用人工智慧對安全和經濟的潛在風險。副總統卡馬拉·哈裡斯（Kamala Harris）正在與谷歌、OpenAI、微軟和Anthropic的首席執行官會面，討論人工智慧的直接危險以及如何減輕這些危險。總之，這些對話表明人們越來越關注人工智慧的應用，特別是在選舉領域。
https://www.washingtonpost.com/politics/2023/05/03/ai-is-having-its-moment-or-more-politics/
為什麼「人工智慧教父」決定他必須對這項技術「吹哨」
CNN
被稱為「人工智慧教父」的加拿大計算機科學家傑弗里·辛頓（Geoffrey Hinton）表示，現在是時候擔心人工智慧正在變得多麼聰明瞭。Hinton是深度學習和神經網路的先驅。在接受CNN採訪時，他說我們需要“認真”考慮如何阻止智慧機器獲得控制權。上周，有報導稱Hinton已經離開了他在谷歌的職位，以追求這些擔憂。今年3月，科技界成員簽署了一封信，呼籲暫停人工智慧領域更複雜的發展六個月，理由是“對社會和人類的深刻風險”。
https://edition.cnn.com/2023/05/02/tech/hinton-tapper-wozniak-ai-fears/index.html
中國的DriveGPT就在這裡
日本時報
報告顯示，特斯拉可能會開始在中國測試其全自動駕駛技術（FSD）。然而，鑒於中國通過百度和 Pony.ai 等本土公司在自動駕駛汽車領域取得的進步，這對該公司來說可能是困難的，這些公司在繞過限制性監管后一直在北京和上海運營機器人計程車。此外，中國的汽車和相關軟體行業領先於競爭對手，預計到本十年末，全國智慧汽車市場將達到近1000億美元。相比之下，特斯拉在美國的消防處一直受到問題的困擾，包括最近決定禁用其關鍵雷達，導致多起事故。北京的監管框架為該行業的創新奠定了基礎，從而促進了高清地圖、智慧駕駛艙和V2X網路等技術的發展。
https://www.japantimes.co.jp/opinion/2023/05/03/commentary/world-commentary/china-av-technology/
美國聯邦貿易委員會執法以遏制人工智慧風險
路透社
聯邦貿易委員會主席Lina Khan表示，聯邦貿易委員會（FTC）致力於利用現有法律打擊與人工智慧（AI）相關的一些風險。在《紐約時報》的一篇評論文章中，汗表示，該機構有能力應對人工智慧問題，利用欺詐和加強佔主導地位的公司作為其範圍的例子。她的評論是在全球呼籲對人工智慧系統進行監管之後發表的，因為人們擔心它們可能被用於有害目的，即使公司努力利用它們來獲得收益。
誰是「人工智慧教父」，他的警告震撼了世界？
英國獨立報
“深度學習教父”傑弗里·辛頓（Geoffrey Hinton）警告說，人工智慧（AI）發展太快，沒有安全預防措施，它威脅到廣泛的失業和人工智慧機器人攻擊的危險。為了能夠更自由地發表意見，他辭去了谷歌副總裁的工作。Hinton一直對人工智慧倫理直言不諱，並在2017年簽署了一封加拿大公開信，警告所謂的「殺手機器人」的發展。
來自加拿大大學的太多智慧財產權最終落入外國人手中
加拿大環球郵報
根據Jim Hinton和Mardi Witzel進行的研究，加拿大大學創造的行業主導智慧財產權（IP）中有50%以上被轉讓給外國公司。包括不列顛哥倫比亞大學，多倫多大學和麥吉爾大學在內的機構因與中國電信巨頭華為的聯繫而受到批評，華為將加拿大資助的IP轉移到海外。該研究還顯示，在分析的15所大學中，有9所大學失敗了，因為它們產生的大部分智慧財產權都是外資擁有的。Hinton和Witzel呼籲採取新的保護措施，以確保加拿大公司從研發的公共資金中受益。
網路安全輸入，語言輸出：大學已經砍掉的學位
澳大利亞時代報
澳大利亞大學已經開始削減語言課程，並增加健康、人工智慧和網路安全學位。Covid-19 的負面影響導致收費國際學生損失了數十億美元的收入，造成了幾十年來最大的高等教育危機。拉籌伯大學和西悉尼大學取消了印尼語課程，而日語、中文和義大利語在斯威本大學因大流行而削減成本期間結束。雖然一些課程由於入學人數不足或費用削減而合併或削減，但其他被確定為優先領域或緩解技能短缺潛力的課程也已停止。
ChatGPT現在幫助人們搜索房屋出租或購買
英國獨立報
房地產公司Zillow推出了一個ChatGPT外掛程式，可以幫助使用者搜索要購買或出租的房屋。該外掛程式可以與 Zillow 的人工智慧聊天機器人就位置和價格等屬性參數進行交互。然後，人工智慧仔細閱讀Zillow的資料庫，為使用者提供合適的選擇。但是，該應用程式不能用於安排房屋參觀或與代理商聯繫。該外掛程式將從 5 月 2 日起由選定的 ChatGPT 用戶進行測試，並在適當的時候提供更廣泛的訪問許可權。
https://www.independent.co.uk/tech/chatgpt-house-rent-zillow-chatbot-b2331436.html
隨著索賠欺詐的增加，人工智慧驅動的語音分析正在幫助保險公司
英國獨立報
Clearspeed的人工智慧語音分析可以幫助保險公司區分機會主義和既定欺詐。已確定的欺詐通常遵循一種模式，這使得使用當前的欺詐檢測工具進行識別變得簡單，但機會主義索賠則不然，因此更難識別。Clearspeed的系統通過電話執行簡短的“是”或“否”問題，其結果可以讓保險公司快速跟蹤或標記潛在的欺詐性索賠。其結果是提高了運營效率，減少了欺詐性索賠並改善了客戶體驗。
生成式 AI 的前景和危險
日本時報
高盛（Goldman Sachs）經濟學家表示，新形式的生成人工智慧（AI）可能會取代多達3億個全職工作。他們還表示，美國和歐洲三分之二的工人可能會接觸到基於人工智慧的自動化。一些估計表明，80%的美國工作力將看到至少一些工作被新形式的人工智慧自動化。然而，目前還不確定人工智慧是否會提高現有的生產力或使人類工作力變得多餘。
https://www.japantimes.co.jp/opinion/2023/05/03/commentary/world-commentary/ai-workers/
人工智慧將造成“真正的損害”，微軟首席執行官警告說
英國每日電訊
微軟首席經濟學家邁克爾·施瓦茨（Michael Schwarz）表示，他“相信人工智慧將被壞人使用，是的，它會造成真正的損害。其他專家，包括“人工智慧教父”傑弗里·辛頓（Geoffrey Hinton），也表達了類似的擔憂。這是在副總統卡馬拉·哈裡斯（Kamala Harris）與微軟，谷歌和OpenAI的老闆在白宮舉行會議之前舉行的，討論即將到來的人工智慧技術的風險。微軟和OpenAI科學家在三月份聲稱，他們已經從OpenAI最新的AI聊天機器人ChatGPT看到了人類智慧的火花，該聊天機器人是根據來自互聯網的PB級數據進行訓練的。
MosaicML推出新服務，以在價格上挑戰OpenAI
路透社
人工智慧初創公司MosaicML迄今已籌集了6400萬美元，已經推出了兩款旨在降低OpenAI價格的產品。MosaicML製造旨在降低執行AI工作成本的工具，並將其出售給開發自己的定製AI系統的公司。其新服務包括面向軟體開發人員的推理服務，使他們能夠添加諸如閱讀和回應文本或從提示生成圖像等功能，其成本比競爭對手低15倍。MosaicML將把其技術租給客戶，但也讓他們在自己的硬體上使用代碼。
適合家庭和客場的最佳安全技術
金融時報
Trova Home 保險箱使用生物識別身份驗證，旨在融入業主的家居裝飾，同時提供謹慎的存儲和輕鬆訪問從遙控器到藥品和小工具的物品。外觀時尚的盒子使用指紋、面部ID或密碼通過智慧手機應用程式打開。該設備具有WiFi連接，可以遠端打開它，並在移動時提醒擁有者。Trova Home售價449英鎊（592美元），可能是傳統保險箱的更方便替代品。
https://www.ft.com/content/e667b0b8-f86b-446c-87df-10b72ef3913d
英國競爭監管機構啟動人工智慧市場審查
金融時報
英國競爭和市場管理局（CMA）正計劃審查人工智慧（AI）市場，包括基礎模型，如ChatGPT等流行聊天機器人的基礎模型。世界各地的監管機構都加強了對生成人工智慧發展的審查，這種人工智慧產生的圖像或文本幾乎無法與人類輸出區分開來。審查將著眼於應執行的「護欄」，以確保競爭有效，消費者受到保護。像谷歌的LaMDA和OpenAI的GPT-4這樣的大型AI模型價格昂貴，只有一小部分資金充足的公司才能使用。
https://www.ft.com/content/76f12980-657e-405c-b510-9ee8bbfb81b7
人工智慧使詐騙更難被發現，但網路公司正在反擊
南華早報
根據網路安全公司Wizlynx Group的數據，香港特別容易受到與生成人工智慧相關的網路安全風險的影響。ChatGPT 風格的生成 AI 工具將使攻擊者更容易進行模仿網路釣魚詐騙的語音。像ChatGPT這樣的聊天機器人也可以用來增加網路釣魚電子郵件的複雜性，Wizlynx集團亞洲首席執行官Kim-Hock Leow表示。該公司本身正在使用ChatGPT作為網路安全工具，但駭客也正在使用人工智慧來製造更複雜的網路攻擊。
人工智慧聲音警報的創造者
英國獨立報
包括Geoffrey Hinton和Paul Christiano在內的專家警告說，人工智慧技術發展太快，沒有考慮失業和殺手機器人等破壞性影響。在與美國官員的會面中，OpenAI首席執行官Sam Altman將與其他高級人物一起討論與AI相關的危險。問題包括侵犯隱私、偏見以及假新聞和詐騙的風險。此外，Zillow 還推出了專門用於房屋搜索的 ChatGPT 外掛程式，允許使用者與聊天機器人互動，並根據位置和價格範圍等標準流覽特定的公寓和房屋清單。
投資者對人工智慧的警鐘
金融時報
英傑華投資（Aviva Investors）股票ESG整合主管路易士·皮弗（Louise Piffaut）表示，當涉及到科技公司時，投資者可能會被人工智慧的道德影響喚醒。Piffaut解釋說，到目前為止，投資者“誤解”了人工智慧的威脅以及與公司使用它相關的風險。人工智慧帶來了ESG風險，包括高能源使用、人權問題和大規模監控風險。隨著企業試圖適應新技術，人工智慧在公司的使用也隨之而來，電子學習公司Chegg最近推出了自己的人工智慧驅動的ChatGPT，以解決學生放棄使用人類導師而使用人工智慧而導致的股價下跌。另一家總部位於蘇黎世的公司RepRisk一直在使用自己的人工智慧平台來預測環境敏感網站可能出現的問題，以提醒其客戶。
https://www.ft.com/content/f0b04f43-8e75-4745-b1db-530959dfab06
人工智慧可能像工業革命一樣影響就業——派翠克·瓦倫斯
英國獨立報
人工智慧（AI）對就業的影響可能與工業革命一樣大，前政府首席科學顧問派翠克·瓦倫斯爵士警告說。派翠克爵士在接受科學、創新和技術委員會採訪時表示，英國應該將人工智慧視為帶來的好處，但政府還需要考慮其更廣泛的影響，包括對因人工智慧而失去角色的工人進行再培訓。派翠克爵士表示，非常大的數據集、高計算機能力和生成模型正在以比人們預期的更快的速度發展技術，人工智慧的影響可能與工業革命一樣大。他指出，新模式將由大公司創建。他還呼籲英國重新加入歐盟科學研究計劃“地平線”。
隨著人工智慧生成的宣傳的興起，新聞業比以往任何時候都更加重要
加拿大環球郵報
加拿大可以在人工智慧和深度偽造時代帶頭打擊假新聞，Rachel Pulfer在《環球郵報》上寫道。她建議該國可以利用其良好的國際地位，任命政府民主研究所的一個以行動為導向的媒體自由部門，幫助增強媒體部門的力量，並將記者聯網，以擴大事實並積極打擊脆弱民主國家的虛假資訊。科技行業被要求為民主進程承擔更大的責任，但政府現在面臨著説明保護媒體公信力的責任，因為科技現在可以製造出不容易識別的虛假形象。
阿提哈德航空簽署協議，允許在聊天應用程式BOTIM中使用AI進行預訂
路透社
阿提哈德航空與總部位於阿布達比的科技公司Astra Tech合作，使用人工智慧（AI）進行預訂。阿提哈德的客戶現在可以在消息應用程式BOTIM中使用Astra Tech的生成預訓練變壓器技術，通過填寫基本資訊並允許該技術完成預訂來預訂航班。雖然 BOTIM 最出名的是互聯網協議語音應用程式，但該軟體去年由 Astra Tech 從投資者那裡購買，自 5 月 24 日重新啟動以來一直被標記為“超級應用程式”。 Astra Tech 表示，人工智慧技術是第一個用阿拉伯文工作的技術。
謝謝收看《AI簡報》！