Andy Tsai, Partner (蔡欣翰 / 合夥人)

負責投資與基金管理。帶著超過 10 年創投經驗，於 2018 年加入 AppWorks，2019 年升任合夥人。先前主要服務於 CID 華威國際、最高擔任至投資副總裁，熱愛和團隊一起思考營運模式與競爭策略的解謎活動，更早之前短暫就職於中華開發負責產業研究。政治大學財管碩士，嗜好是旅遊和滑雪。

籌資完成、獲得股東的資金後，通常是 Startups 最開心的時刻，因為將有足夠的資源，可以大刀闊斧地同步開展新計畫，包括拓展營運、找好人才、尋覓新辦公室、提供更好的留才福利等。

資金到位後，除了上述的喜悅，同時也必須留意在往後，對股東有持續溝通的義務。在近期輔導與協助 AppWorks Accelerator 新創團隊過程中，發現不少團隊在與股東溝通上，往往處於比較被動的角色，沒有站在股東的角度去思考溝通內容。在此，我想先提醒 Startups，在與股東溝通時，最好由創辦人親自出面，不要假手他人，確保雙方都能夠面對面溝通、即時掌握第一手資訊，至於如何溝通？我特別針對心態、修正創業目標、滿足機構投資人期待三個面向，透過這篇文章分享，整理出我們常見的問題，希望讓創業者與股東兩端，能夠更有效、精準、高品質的溝通。

溝通心態：將股東視為資源提供者

在心態上，Startups 可將股東視為可能的導師跟資源提供者，可提供的資源，包括資金、人才、產業人脈網絡。創業過程中，會面對各種困難與挑戰，除了例行營運報告，也要與股東溝通目前進度與未來目標，尤其是距離籌資時與股東所共同構想的目標，現在還有多遠？需要滿足哪些條件，可能就會坐上特快車抵達目標？股東能不能幫忙找到特快車的車票？這些問題，都是需要跟股東一起討論的重要課題。

獲得專業股東、創投的資源挹注，可讓新創發展得更快、更好。因為創投在產業情報、潛在客戶、技術、高階人才方面，有機會可以提供獨有的建議或資源，特別是在人才方面，因為創投通常手上同時有多個投資案，會在特定產業累積廣大人脈，若剛好有優秀人才異動，就能夠幫忙介紹，提高爭取優秀人才的機會。

分享兩個個人經驗。第一個，由於我經常擔任代表投資方的董事，出席所投資 Startups 的董事會，曾見過非常懂得運用董事會的團隊，在溝通完未來一年營運計畫後，在董事會上，創辦人就開始請教董事們，是否有目標客戶的關係網絡可以應用，也順利藉由股東的引薦，接觸到潛在重要客戶。第二個，則是由 AppWorks 投資、提供品牌新零售與虛實融合 OMO 解決方案的 91APP， 在團隊持續成長的過程，需要招募在整體軟體架構的規劃高手，就由 AppWorks 協助媒合關鍵人才在轉職時，加入他們協助開發。

每次溝通後，如果有確定事件會繼續進行，創業團隊也可繼續追蹤後續進度。例如，請股東引薦客戶、介紹人才，或是其他項目執行狀況、遇到的問題等，這都能讓雙方對同個問題的認知更加一致，確保溝通效果。

長期願景：可持續修正，不需報喜不報憂

創業的環境與競爭，變化速度很快，透過緊密的溝通，讓雙方針對最新的情勢與變化取得共識，可為雙方建立長期且互信互賴的關係，這將直接影響未來雙方合作是否成功。

對 Startups 而言，快速調整營運方向、優化與疊代產品或服務內容，往往是創業初期最主要的競爭優勢。然而，對股東來說，營運計畫畢竟是計畫，對於整體創業環境的基本假設，包括市場需求、客戶痛點、產品解決痛點的能力，都是建立在經營團隊所分析出來的很多假設之下。

當營運計畫開始往前進行，新創團隊會不斷蒐集到資料、累積實務經驗，來反饋原本的營運假設。一旦發現有基本假設需修改，而且重大到需要進一步調整營運計畫，就務必適時跟股東溝通，原本共同的目標將如何改變？

這個時候，新創團隊不需要有報喜不報憂、緊抱一套營運計畫走到底的想法。最好的方式是與股東一起誠實面對變化。如果已經投注資源並努力嘗試過，發現真的行不通，或是要完成這個步驟，需要更多時間、資源，多幾個小步移動才能發生，這都是可以持續與股東溝通的內容。最知名的案例之一，就是 Slack 創辦人 Stewart Butterfield，原本的創業題目是遊戲開發，在調整過 15 個營運改善的項目後，仍無法吸引夠多的付費用戶，就把原本的創業計畫砍掉，重新思考過後，跟股東溝通也爭取到後續支持，再以企業客戶內部的溝通工具作為新產品出發，進而逐步打造出 Slack 的成功。

在實務作法上，通常每一、兩週，創業的營運狀況可能就會有大幅調整。建議創業者至少每一至兩個月，必須跟主要股東更新最新營運現況，尤其是打造產品、服務、商業模式時，往往有許多外人難以了解的部分。例如，開發是否符合進度？若有先期客戶願意測試，測試的意見反饋為何？如果因此而造成開發計畫將有大幅度變更，相關的說明，都是非常重要的溝通內容，也可讓股東思考如何提供有效的資源協助。

機構投資人的期待：掌握現金水位、完成籌資里程碑

站在股東的角度思考，對創投等機構投資人來說，為了確保投資成果，新創團隊目前的現金水位是否安全？這一輪籌資所設定的里程碑是否達成？是兩個非常重要的觀察指標。

Startups 在籌資後，很容易疏忽現金管理的重要。創辦人在這件事情上，千萬不能假手他人，一定要親力親為監控現金流，多數的 Startups，員工薪資都佔營運成本很高的比重，加薪、找好人才都要考慮對於整體營運資金的影響；也可以考慮更有創意的做法，比如股票佔一定比率的薪資，這可讓員工對創業目標更認同、向心力更高。

新創的資金儲備，對於股東是非常重要的資訊。在定期溝通過程中，一定要讓股東清楚實際狀況，他們也會適時的提出建議跟協助，畢竟股東更清楚，籌資的過程，需要的時間跟程序很長。當特殊情況發生時，更不可忽視這些細節與背景資訊，例如去年 Crypto 價格大幅下跌，Blockchain 新創在 ICO 後，可能原本覺得資金可以支應三年的創業發展，但或許價格變動之後，資金規劃面臨重大改變，原本的營運計畫，也必須隨之修改，這就需要再跟股東討論後續合理的規劃。

在實務上，每一輪籌資的時間與進度，Startups 很難掌控。最保守的方式，就是資金儲備剩下一年時，就要開始準備籌資，因為從接觸潛在股東到討論投資條件，很可能要 3-6 個月的時間，而上次籌資到目前的里程碑，也需要時間來思考及準備資料。在資金儲備還剩一年時就啟動籌資，一旦當募資時程比預期還長，才有足夠的時間因應。

最後，籌資後能夠達成的里程碑，也是與股東溝通的重點要素。每次籌資，通常最關鍵就是要找出領投的股東。Startups 在完成每一輪籌資後，就可開始思考，下一輪希望由誰來負責領投，有什麼關鍵資源或是里程碑，可以吸引這樣的股東，提前開始準備，甚或運用各種方式吸引潛在股東注意，都是非常重要的步驟，不能夠輕忽。

對於創業者，建議要隨時思考如何讓現在及未來的股東，都能夠在關鍵的里程碑上，認同新創投資案所代表的價值，才能夠有效地加快下一輪籌資的進度，也讓創業團隊能夠持續獲得資金，繼續航向夢想的未來。

【歡迎所有 AI / IoT、Blockchain / Crypto 的創業者，加入專為你們服務的 AppWorks Accelerator】

Photo by delphinmedia on Visual Hunt

Sandi Wu, Analyst (吳岱蓉 / 分析師)

負責 Accelerator 與投資。加入 AppWorks 前，任職於富邦產險電子商務部，負責線上投保平台的專案管理及 Email 行銷，喜愛探究數字背後的意義。曾前往芬蘭交換學生半年，期間走遍半個歐洲，喜歡寂靜的自然風景勝過繁華的現代都市。畢業於台大財金系，擔任系女排隊長，熱愛美食、排球、旅遊及挑戰新事物。

新創企業在創立初期、尚未打開知名度之前，想找到第一批客戶，總是會十分挫折。尤其是目標客戶是面對企業 (To B) 的新創，相比面對個人消費者 (To C) 的新創，常常需要花更多的時間與人力，才能接觸到目標客戶中對的單位。說服用戶單位後，因為企業採購有一定的流程，所以還需要再花更多的時間與人力在相關單位間一個個打通關，才有機會完成成交。在這過程中，開發企業客戶，更像是利用陸軍 (創辦人親自參與或是由業務團隊負責) 做地推，需要持續努力，才能闖過一個又一個關卡，順利攻下客戶，相對之下，若是開發個人消費者，則較適合利用空軍 (包括大眾媒體、網路或社群媒體) 來操作議題、病毒行銷、投放網路廣告等方式來進行業務開發。

AppWorks Accelerator 的校友中，有許多面對企業客戶的新創，我訪問了其中三位 AI 新創的創辦人，整理出他們在創立初期，有哪些由創辦人親自負責開發企業客戶的方法，並將其中最適合他們的方法分享給大家：

1. 陌生開發：更重要的是獲得產品回饋

多數消費者，在接到陌生開發電話的時候，通常都不太願意花時間談話、甚至擔心對方為什麼可以取得自己的資訊。然而，當新創在聯繫潛在的企業客戶時，陌生開發往往比想像的有效，不管是打電話、發 email、直接登門拜訪，至少有機會獲得五分鐘的時間。

儘管陌生開發相對容易，但後續的轉換率可能會讓人感到挫折。AW#17 的校友 Ocard，是一個提供給品牌或店家使用的 AI 顧客管理 (CRM) 系統，Ocard 創辦人陳逸生 (Vinek Chen) 認為，平均來說，打電話、發 email 給 100 位潛在企業客戶，大約可以獲得 30 次談話的機會，30 次中可能有 15 次獲得 Demo 的機會，15 次中真正成交的可能只有 5 個。

陳逸生進一步指出：「這過程很辛苦，但最重要的，是可以透過這個機會，獲得寶貴的使用者回饋，而進一步調整自己的產品。」剛開始 Ocard 團隊四個人積極的進行陌生開發，三個月內向上百店家 Demo 產品，卻只成交了兩家，然而在陌生開發的過程中，陳逸生發現，初期他們只有開發協助店家的會員集點功能，並不足以吸引客戶，於是 Ocard 內部快速地調整產品，新增了問卷、抽獎等功能，讓企業客戶有更多工具去做 CRM，兩年內已成功開發超過 1,000 家以上的企業客戶。

2. 找尋合作夥伴：事半功倍的互惠關係

身為一位創辦人，必須時時從目標客群的角度去思考。這些目標客群，他們通常會聚集在哪裡？平常接收資訊的管道是什麼？實體或網路上不同的資訊管道有什麼差異？來自香港的 Easychat ，開發的聊天機器人 (Chatbot)，整合了 Facebook Messenger、LINE、WeChat 及 Whatsapp 等通訊軟體，提供一站式的智能銷售及客戶服務。Easychat 創辦人陳正達 (Alan Chan) 分享，他們的目標客戶是電商公司，一開始在開發電商客戶的時候，就先問自己說，電商會聚集在哪裡？他想到的答案是「電商開店平台」，在香港，Shopline 是最大的電商開店平台，於是他先專注在 Shopline 上的電商，並透過 Instagram 與店家聯繫，但一開始回覆率只有一成。

後來陳正達加入 AW#16，並開始在台灣發展業務。透過 AppWorks 為每屆加速器團隊舉辦的 Mentor Day，認識了台灣最大的品牌新零售、虛實融合 OMO 平台 91APP，Easychat 因此成為了 91APP 的技術夥伴，91APP 會向其客戶推薦 Easychat 的服務。除此之外，現在在電商開店平台 Waca 及 EasyStore 上，可以直接在後台啟用 Easychat 的服務，大大提高了 Easychat 的能見度，提升獲取客戶的效率和品質。對於開店平台來說，提供好用的加成服務給他們的客戶，是他們非常重要的考量，這樣互惠互利的關係，讓 Easychat 和電商平台的合作，更加緊密和彼此信任。

3. 朋友引薦 (Warm Referral)：朋友的朋友也會成為助力

看到一間新開的餐廳，多數人會先猶豫要不要進去吃，但如果是朋友大力推薦，那絕對會大大增加嘗試的機會。業務開發也是一樣，對於全新的產品或是公司，要如何取得企業客戶的信任，透過雙方認識的人來引薦，就很重要，尤其對於較封閉的產業來說，更是格外重要。

AW#17 的校友 Aniwear，是來自香港的新創團隊，專為獸醫設計能夠快速檢測寵物心臟的軟硬體整合方案，Aniwear 創辦人麥年豐 (Joe Mak) 在剛開始開發業務的時候十分挫折，多次試著直接到獸醫院想和醫生談話，但都被櫃檯人員阻止，甚至還被趕出來。終於有一次和一位朋友聊到自己在做獸醫產業的服務，這位朋友介紹了另一位在動物保護團體工作的朋友，這位新朋友再輾轉介紹身為獸醫師的朋友給麥年豐，這才逐漸打開了獸醫產業的大門。

有了這樣的經驗後，麥年豐發現在獸醫產業，推薦和權威性是很重要的。於是來台灣發展後，就邀請中興大學獸醫教學醫院心眼科總醫師詹益萍擔任公司的顧問，從此之後，和新客戶談話的時候，只要提到專業獸醫師的名字，就可以多增加一分專注和一分信任。

以上三個方法，不僅是 AppWorks Accelerator 三位校友，透過實戰驗證的有效方法，根據我的觀察，也是許多 AppWorks Accelerator 校友中，面對企業的 AI 新創普遍使用的進入市場策略 (Go-To-Market Strategy)。

在與他們的訪談中，三位創辦人不約而同都分享了一件重要的事：不要認為沒有馬上成交的生意，就是一筆失敗的生意。在這過程中，有可能客戶給予的回饋是負面的，或是和某些客戶談了幾次，但暫時沒有要立即簽約，可能會因此懷疑自我、懷疑自己的產品，但千萬不要輕易放棄這個和潛在客戶之間的關係連結，持續的寄 email 或是電話關心潛在客戶，維持良好的關係，有時候只是時機未到，時機適合的時候，自然會有機會成交。

【歡迎所有 AI / IoT、Blockchain / Crypto 的創業者，加入專為你們服務的 AppWorks Accelerator】

Photo by rawpixel on Pixbay

Liying Wang, Legal Master (王琍瑩 / 法務輔導長 & 明日科技法律事務所主持律師)

帶領內建法務團隊，提供企業經營、合約協商、紛爭處理等各方面法律諮詢，輔導建立營運管理機制，必要時也協助團隊尋求「突破框架」的解方。曾任 HTC 全球營運資深法務經理、萬國法律事務所科技法律部律師，也曾服務於士林地方法院、台北高等行政法院。美國西北大學法學碩士、政大法學士、政大 EMBA，具備美國紐約州與台灣律師執照。

這是我家前陣子出現的真實對話，一刀未剪。

我：如果有一輛無人車，出車禍的時候會保護比較多人，另一輛會傷害比較多人，你選那一輛？

孩子：我選保護很多人的。

我：如果為了保護比較多人，有可能害車子裡的你死掉，你選哪一輛？

孩子：還是選保護很多人的。

我：如果車子裡不只有你，還有媽媽呢？

孩子：還是選保護很多人的，媽媽跟我一起去天堂沒關係。

我：如果車子裡只有媽媽呢？

孩子：那我要選保護媽媽。

孩子天真的回答，卻是典型人工智慧應用的 Trolley Problem 倫理兩難，假設回答問題的不是使用者而是車廠，加上商業利益的考量，問題將更為複雜。無論保護多數人的選項多麼道德正確，最終，銷量第一的，恐怕還是能優先保護使用者的無人車吧！無人車或許是極端的例子，但人工智慧演算法不知不覺、方方面面介入我們的日常生活，已是創業者、開發者與使用者必須共同面對的真相。

推動 Trustable AI 為什麼又急又重要？

從 Google 搜尋引擎、Siri 語音助理、Facebook 廣告置入、Netflix 影片推薦……到 UberEats 訂餐外送，每一項服務都因為演算法的優化，為使用者帶來方便，同時為企業增加營收。起初，演算法只是約略猜測我們想買什麼、想看什麼、想吃什麼。隨著數據資料的大量累積與交互運作，演算法開始知道一些「不足為外人道」的秘密，例如，誰最近剛懷孕、誰準備離職跳槽、誰又暗戀著誰。然後，無論願不願意，演算法可能比我們更瞭解我們，這些關於「自己」的一切，會成為貸款的信用分數、看病的用藥依據、犯罪的呈堂證供。如今，我們也都見證了人工智慧演算法回過頭來操縱個人意志，決定我們該買什麼、該看什麼、該吃什麼，甚至票投給誰。終於，我們變成演算法期待的那個模樣，但究竟哪一個才是「真正的自己」？所謂「更好的自己」誰說了算？而眼前活生生的「自己」，有沒有絲毫抗辯的權利？

事實上，所有機器學習 (Machine Learning) 的模型及成效，都取決於人為的建構，尤其現今主流的深度學習 (Deep Learning)，連開發者都只能判斷運算結果的好壞，卻無從得知 AI 如何作成決策，是名符其實的演算法黑箱。即便暫不考慮 False Positive 與 False Negative 的問題，開發者也很難如同賣菜刀的師傅兩手一攤說：「刀子可以切菜也可以殺人，工具是中立的啊！」更何況，機器學習的每一筆訓練資料 (Training Data)，都是人類社會既已發生的事實，當歷史經驗存在偏見 (Bias) 未經校正，演算法的產出就必定是偏見的重現。試想，如果國家的警力部署，是依據各地犯罪率高低的歷史資料自動演算的結果，那麼部署嚴密的區域因為破案率提高，在後續犯罪率的統計、警力的部署也將形成循環性的偏差。開發者有意或無意的決定，都可能造成難以預期的結果，也因此，「可信任的人工智慧」(Trustable AI) 成為全球開發者亟欲突破的難題。

Trustable AI 主要的探討，是如何盡可能減少演算法黑箱的節點，提升公平性、當責性與透明性 (Algorithmic Fairness, Accountability and Transparency; FAT)，技術難度或營業秘密再也不能作為演算法偏見或歧視的藉口。美國國防高等研究計劃署 (DARPA) 自 2017 年推動為期長達五年的「可說明的人工智慧計畫」(Explainable Artificial Intelligence Program; XAI)，就是希望在 Trustable AI 與機器學習的成效二者權衡之間，尋求最佳解。

歐、美、亞三地最新的 Trustable AI 規範在說些什麼？

演算法對人類社會的影響既深且廣，開發者探討 Trustable AI 議題，不能缺少人文與社會科學的研究。所幸，隨著 Trustable AI 技術領域日臻成熟的同時，相關法律論述也在今年上半年逐漸成形。一切的開始，或許要回溯到「家喻戶曉」的歐盟 GDPR (General Data Protection Regulation) 個資保護規範，說到 GDPR，業界對它的認識不外乎「史上最嚴個資法」。

事實上，除了個資的蒐集、處理與利用等隱私保護機制外，GDPR 也相當強調 Trustable AI 在法規上的具體實踐。例如，當「自動化個案決策」(Automated Individual Decision-Making) 完全經由演算法自動產出，且該決策對用戶產生法律效果或類似重大影響時，應賦予用戶請求解釋、表達意見、拒絕適用，或以「工人智慧」人為介入判斷的權利。此外，GDPR 為了避免人工智慧應用，對於個人的基本人權與自由產生重大危害，針對「特種個資」(Special Categories of Personal Data) 保護更為嚴格，包括種族、政治立場、宗教信仰、工會會籍、基因、生物特徵、健康狀況、性生活或性取向等，只有在符合特殊要件的前提下，才允許採用特種個資做為演算法的輸入資料。

GDPR 影響所及，技術領域長期關注的 Trustable AI，終於在法律層面開啟對話。近期最受全球矚目的三項法案包括：

歐盟：「可信任的人工智慧倫理規範」七大關鍵要素

歐盟執委會 (European Commission) 去年 6 月甫成立的人工智慧高級專家小組(High-Level Expert Group on AI; AI HLEG)，在同年 12 月整理出一份規範草案，廣泛徵詢各界意見之後，於今年 4 月正式頒布「可信任的人工智慧倫理規範」(Ethics Guidelines for Trustworthy AI)，強調七大關鍵要素：人類自主性與監督 (Human Agency and Oversight)、技術穩健性與安全性 (Technical Robustness and Safety)、隱私與數據監理 (Privacy and Data Governance)、透明性 (Transparency)、多元性、非歧視性與公平性 (Diversity, Non-Discrimination and Fairness)、社會與環境福祉 (Societal and Environmental Well-Being)、當責性與咎責機制 (Accountability)。

這份倫理規範不具強制性，各會員國也不急著增修既有法規，使得以上的內容看起來像高大上的精神喊話。但是，執委會將參考現行實務與試辦成果，持續演譯規範內容，預計 2020 年初再度釋出新版。因此，我們建議 AI 開發者觀察的重點，在於透過目前文件預見政策與法規的走向，包括：將來不同產業細部化的分類規範、自律組織或第三方認證機構的形成等等。尤其，這份倫理規範將 Trustworthy / Trustable AI 區分為合規的 (Lawful)、倫理的 (Ethical) 和穩健的 (Robust) 三種面向，僅僅合規是不夠的，開發者也要努力爭取另外兩個面向的加分題。此外，草案用語「Trustworthy AI made in Europe」已經更正為「Trustworthy AI for Europe」，明確表示無論 AI 系統的「產地」是不是在歐盟境內，只要「使用」行為在歐盟境內，這份倫理規範都有所適用。事實上，執委會也一再強調，最終目標期待這份倫理規範成為真正接地氣、能實作的「全球共識」。

美國：國會草擬「演算法問責法案」，強化使用者權利

今年上半年，美國國會針對數位隱私、人臉辨識、基因資訊等領域，提出多項法案，都值得開發者關注。其中針對 Trustable AI 議題，美國民主黨 Ron Wyden 等國會議員共同草擬了「演算法問責法案」(Algorithmic Accountability Act of 2019)，特別限制大型企業 (年收入超過 5,000 萬美元，或用戶數、裝置數超過 100 萬件) 的人工智慧應用。法案認為大型企業的產品或服務傾向於依賴 (而非消除) 演算法偏見，因此必須藉由外部拘束力加以導正，包括授權聯邦貿易委員會 (Federal Trade Commission; FTC) 訂定規範，要求高風險自動化決策系統 (High-Risk Automated Decision System) 進行影響評估 (Impact Assessment)，強化使用者的權利，而非相反地予以邊緣化。

這份法案雖然針對大型企業、並以 FTC 為執法單位，新創團隊的開發者仍然可以經由法案所欲處理的具體情境，來檢視並優化自己的開發項目。舉例來說，機器學習領域普遍應用的「剖析建檔」(Profiling) 與「推薦系統」(Recommendation)，可能由於演算法偏見，導致特定弱勢族群即便使用相同平台服務，卻無法接觸某類住宅建案、某些工作機會或某種貸款方案。事實上，Facebook 在今年 3 月已經與各該領域主管機關協商和解，針對住房 (Housing)、僱傭 (Employment) 和信用貸款 (Credit Offers) 這些敏感項目，正式宣佈新的廣告投放措施，禁止使用年齡、性別或郵遞區號來鎖定投放對象，並對整體分眾功能 (Targeting Categories) 加以限縮，甚至在房屋租售的項目，將一勞永逸地建構新的搜尋工具，讓每一位使用者都能搜尋到美國境內每一則廣告。

亞洲：新加坡居於領先地位

新加坡對於 Trustable AI 的規範進程，在亞洲各國之中儼然居於領頭羊地位。先是去年 11 月由金融管理局 (Monetary Authority of Singapore) 針對金融產業提出「人工智慧與資料分析行為準則」(FEAT Principles)，隨後今年 1 月再由個人資料保護委員會 (Personal Data Protection Commission) 頒布「人工智慧監管模式框架」(A Proposed Model Artificial Intelligence Governance Framework)，為非特定產業的一般性人工智慧應用提供指導方針。無獨有偶地，這份監管框架與前面提到的歐盟倫理規範一樣，強調自己是動態文件 (Living Document)，不具強制性，並將隨著技術進程與各界反饋持續更新。

而相較於高大上的歐盟倫理規範，新加坡的監管框架已經針對內部監理的架構與措施、人工智慧決策的風險管理、營運管理、與使用者關係維護等四個面向，提供開發者具體可資遵循的步驟，甚至引用 UCARE.AI 與新加坡 Parkway Pantai 醫療集團有關醫療費用的預測分析 (Predictive Analysis) 作為實作案例。這個個案的挑戰性，在於醫療資料的蒐集、處理、利用本來就受到相關法規的嚴格監管，而個案涉及類神經網絡的深度學習演算法黑箱，也正是 Trustable AI 的透明性要求最常卡關的痛點。

依據監管框架的介紹，個案在 Trustable AI 的公平性、當責性與透明性各個環節，都已規劃對應流程，一方面藉由演算法自動化決策，來降低人為主觀評價欠缺一致性的問題 (最常見就是受到病患收入水平或保單承保範圍的影響)，另一方面也確保健全的人為反饋迴路 (Human Feedback Loop) 能夠介入運作，甚至在演算法內建人為撤銷機制 (Manual Override Protocol) ，以便必要時能夠安全地終止演算法的運作。

結語

從 2016 年 Microsoft Tay 失控之前的樂觀，到今年初 Open AI 對釋出開源碼的猶豫，人類漸漸學會對機器感到敬畏，也終於明白所謂「工具中立性」其實意味著，它的亦正亦邪完全掌握在人類手裡。眼前這些 Trustable AI 最新規範趨勢，不約而同展現這樣反覆辯證的歷程，提醒我們不要過於相信人類，也不要過於相信機器。

換言之，Trustable AI 所有規範都指向同一個方向——人類應當有權力 (也有責任) 決定什麼情況要信任「人工智慧」、什麼情況要依賴「工人智慧」。要達到這個目標，首先必須認清人類和機器各自的強項與侷限，但是這一題太難，因而需要在制度面加以規劃，包括事前的管理、事中的檢驗與事後的救濟，缺一不可，供各位創業者、開發者參考。

【歡迎所有 AI / IoT、Blockchain / Crypto 的創業者，加入專為你們服務的 AppWorks Accelerator】

Photo by geralt on Pixbay