隨著人工智能技術(shù)發(fā)展步入快車道，業(yè)務(wù)數(shù)量和覆蓋面不斷提升，新業(yè)務(wù)模式和新 產(chǎn)品持續(xù)涌現(xiàn)。與此同時也產(chǎn)生了各種科技倫理問題和挑戰(zhàn)，特別是那些已經(jīng)深入 到日常生活方方面面的各類算法，引起了社會的廣泛擔憂。

1.調(diào)度決策：外賣調(diào)度系統(tǒng)"困住"騎手

外賣平臺引入人工智能技術(shù)和系統(tǒng)，會幫助騎手規(guī)劃訂單的取餐順序和配送 路線。在大大提升配送效率的同時，也引發(fā)了 "困住”騎手的質(zhì)疑，例如系 統(tǒng)規(guī)劃的路徑或預(yù)計的時長存在不合理情況，而騎手囿于系統(tǒng)限制，為了節(jié) 省時間往往選擇違反交通規(guī)則’給自身和他人帶來安全隱患。

2.個性化推薦：電商場景下的信息繭房和馬太效應(yīng)

電商平臺根據(jù)消費者的興趣愛好、消費習(xí)慣等提供智能推薦服務(wù)，節(jié)省時間 成本、大大提升了匹配效率，但也產(chǎn)生了信息繭房和馬太效應(yīng)。一方面可能 出現(xiàn)推薦商品重復(fù)率過高的情形；另一方面系統(tǒng)天然傾向于推薦實力強服務(wù) 好的頭部商家，導(dǎo)致市場資源更加集中，加劇了兩極分化。

3.內(nèi)容治理：如何守護清朗健康的網(wǎng)絡(luò)環(huán)境?

部分不法分子在網(wǎng)絡(luò)平臺上，為了騙取流量，發(fā)布各式各樣的兒童軟色情內(nèi) 容’污染了網(wǎng)絡(luò)空間’敗壞社會風(fēng)氣’嚴重侵害了未成年人權(quán)益。這些低俗 信息頻繁出現(xiàn)’人工智能可以幫助清理頑固的信息污垢，守護清朗健康的網(wǎng) 絡(luò)環(huán)境嗎？

4. 信息檢索：商品的銷量和評價真實可信嗎？ "

在電商平臺上’商品銷量和評價會在一定程度上決定檢索中的排序’從而影 響用戶的購買意愿。這種機制催生了一些作弊行為，部分不法分子蓄意"灌 水"，偽造銷量數(shù)據(jù)，虛構(gòu)大量相似"好評”O(jiān)如何防止人工智能被黑灰產(chǎn) 惡意投放的作弊數(shù)據(jù)欺騙，保障信息的真實可信？

5.自動識別：人工智能可以放心使用嗎？

2021年，美國底特律市的一位男子開啟自動駕駛模式后’撞上馬路中行駛 的半掛卡車’不幸身亡。據(jù)分析，事故原因是自動駕駛系統(tǒng)將貨車的白色車 廂錯誤識別為藍天白云’因而沒有及時采取剎車制動等措施。之前也發(fā)生過 數(shù)次類似事件’這難免讓人們產(chǎn)生疑問，人工智能自動識別的結(jié)果可以放心 \使用嗎？

6 .深度合成：眼見不一定為實

近年來，利用”深度合成"技術(shù)惡搞公眾人物的事件不時發(fā)生，造成了惡劣 的影響。隨著”深度合成"技術(shù)和工具快速成熟與擴散，其風(fēng)險不斷增大， 惡意使用極易造成虛假信息泛濫，可能嚴重妨礙司法公正、引發(fā)信任危機， 甚至危害國家安全。