隐私没了!这家创企30亿图库,一张照片就能顺着网线揪出你
一家名不見經傳的初創企業正在幫助執法部門將陌生人的照片與他們的在線圖像進行匹配——有人說,這“可能會導致反烏托邦式的未來”。
Hoan ton-That 開發的一個特效軟件很熱門,使用這個應用程序,用戶能夠把特朗普標志性的黃色頭發移到自己的照片上。
后來,身為澳大利亞科技開發者和曾經的模特的 Ton-That 做了一件更重大的事情:他發明了一種工具,這種工具讓人們無法再隱藏身份行走在大街上。他把這一工具提供給數百個執法機構,包括從佛羅里達州的當地警察到聯邦調查局和國土安全部。
他的小公司 Clearview AI 設計了一款開創性的人臉識別應用。你給一個人拍了一張照片,上傳到軟件后就可以看到這個人所有的網絡公開照片,以及那些照片出現的鏈接。這個系統的主干是一個包含 30 多億張圖片的數據庫,Clearview 聲稱這些圖片是從 Facebook、YouTube、Venmo 和其他數百萬個網站上搜集而來的,遠遠超出了美國政府或加州硅谷巨頭曾經構建的任何照片數據庫。
美國聯邦和州執法官員表示,雖然他們對 Clearview 的運作方式和幕后主使只有有限的了解,但他們已經利用它的應用程序幫助解決了入店行竊、身份盜竊、信用卡欺詐、謀殺和兒童性剝削等案件。
然而,到目前為止,根據每個人的面部圖像識別其身份一直是禁忌,因為它嚴重侵犯了個人隱私。一些有能力發布這種工具的科技公司也因此一直沒有這樣做;2011 年,谷歌當時的董事長表示,這是該公司一直保留不發布的一項技術,因為它可能被“用在非常糟糕的地方”。包括舊金山在內的一些大城市已經禁止警察使用面部識別技術。
但據 Clearview 稱,在沒有公眾監督的情況下,過去一年已有 600 多家執法機構開始使用 Clearview。該公司拒絕提供名單。《紐約時報》分析了其應用程序的計算機代碼,其中包括將其與增強現實眼鏡配對的編程語言;用戶將有可能識別出他們看到的每一個人。該工具可以識別參加抗議活動的活動人士或地鐵上有吸引力的陌生人,不僅可以顯示他們的名字,還可以顯示他們住在哪里,做了什么,認識誰。
另外,除了執法部門之外,Clearview 還出于安全考慮向至少幾家公司授權了該應用軟件。
“該軟件的武器化可能性是無窮無盡的,”圣克拉拉大學高科技法律研究所的聯合主任 Eric Goldman 說,“想象一下該應用程序這樣被應用:一個流氓執法官員想要跟蹤潛在的浪漫伴侶,或者一個外國政府利用這一點來挖掘人們的秘密,敲詐他們或將他們投入監獄。”
Clearview 一直將自己籠罩在神秘之中,避免就其突破邊界的技術展開辯論。當我去年 11 月開始調查這家公司時,它的網站只有一個空頁,上面顯示著一個并不存在的曼哈頓地址,作為它的辦公地點。該公司在領英上僅列出了一名員工,是一名名叫“John Good”的銷售經理,此人原來就是該程序的開發者 Ton-That,只不過用了一個假名。在我咨詢后的一個月的時間里,這家公司的員工沒有回復我的電子郵件或電話。
當公司躲避著我的時候,它也在監視著我。在我的請求下,大量的警察已經通過該公司的應用軟件掃描了我的照片。他們很快就接到了公司代表的電話,詢問他們是否在與媒體交涉,這表明 Clearview 公司有能力,也有意向監控執法部門在尋找誰。
面部識別技術一直存在爭議。這讓人們擔心自己的個人隱私權。它有時會為某些群體提供錯誤的識別結果,比如有色人種。且警方使用的一些面部識別產品,包括 Clearview 的產品,還沒有經過獨立專家的審查。
Clearview 的應用程序帶有額外的風險:執法機構正在將敏感照片上傳到一家公司的服務器上,而這家公司保護數據的能力尚未經過測試。
終于,這家公司開始回答我的問題,稱它之前的沉默只是處于隱身模式的早期初創企業一向會做的。Ton-That 承認設計了一款可用于增強現實眼鏡的原型,但他說公司尚且沒有發布計劃。他還說,我的照片引起了他們的注意,是因為該應用程序“標記了可能的異常搜索行為”,以防止用戶進行它認為的“不恰當的搜索”。
除了 Ton-That 之外,Clearview 的創始人還包括 Richard Schwartz,他是 Rudolph W. Giuliani 在擔任紐約市長時的助手。此外公司還得到了 Peter Thiel 的資金支持,Peter Thiel 是 Facebook 和 Palantir 的風險投資人。
公司的另一個早期投資者是一家名為 Kirenaga Partners 的小公司。Clearview 的創始人 David Scalzo 對 Clearview 造成的相關隱私擔憂不予理會,他說這是一個有價值的犯罪解決工具。
“我得出的結論是,由于信息不斷增加,永遠不會有隱私,”Scalzo 表示,“法律必須決定什么是合法的,但你不能禁止技術。當然,這可能會導致一個反烏托邦式的未來,但你仍不能禁止技術。”
沉迷于人工智能
31 歲的 Ton-That 在遠離硅谷的地方長大。在他的祖國澳大利亞,他聽著他的皇室祖先在越南的故事長大。2007 年,他從大學輟學,搬到了舊金山。當時 iPhone 剛剛上市,他的目標是盡早進入他所預期的充滿活力的社交媒體應用市場。但他早期的創業從未獲得真正的成功。
2009 年,Ton-That 創建了一個網站,通過網站,人們可以與所有的通訊聯系人分享視頻鏈接。后來,該網站被貼上“網絡釣魚騙局”的標簽,Ton-That 只好關閉了它。2015 年,他推出了“Trump Hair”軟件(意為特朗普的頭發),這個特效軟件可以讓人們在普通人的頭部加上特朗普特征的金發。Ton-That 還開發了另外一個照片分享工具,但是這些軟件產品基本上都失敗了。
沮喪之余,Ton-That 于 2016 年搬到了紐約。他說,自己又高又瘦,留著一頭長長的黑發,曾考慮過從事模特工作,但在嘗試做了一次模特后,他又回到了工作中,試圖挖掘出科技領域的下一個大事件。他開始閱讀有關人工智能、圖像識別和機器學習的學術論文。
Schwartz 和 Ton-That 于 2016 年在保守派智庫曼哈頓研究所的一場新書發布會上相識。現年 61 歲的 Schwartz 曾在上世紀 90 年代為 Giuliani 工作,積累了不錯的人脈,并在 21 世紀初擔任《紐約每日新聞》的社論版編輯。兩人很快決定一起開發面部識別業務:由 Ton-That 開發應用程序,Schwartz 利用他的人脈來吸引外界的商業興趣。
其實,各國的警察部門已經使用面部識別工具將近 20 年了,但是在過去僅限于搜索政府提供的人臉圖像,比如臉部照片和駕照照片。近年來,面部識別算法的準確性有所提高,亞馬遜等公司提供的產品可以為任何圖像數據庫創建面部識別程序。
Ton-That 想要做的遠不止這些。2016 年,他開始招募一些工程師。其中一人幫助設計了一個程序,可以自動收集互聯網上的人臉圖像,比如就業網站、新聞網站、教育網站,以及 Facebook、YouTube、Twitter、Instagram 甚至 Venmo 等社交網站。但這些公司的代表表示,他們的政策禁止這種人臉圖像采集行為,而 Twitter 則明確禁止將其數據用于面部識別。
另一名工程師負責完善一種從學術論文中衍生出來的面部識別算法。最終,他們創造出了一個被 Ton-That 所描述為“最先進的神經網絡”的系統,它能基于面部幾何形狀——比如一個人的眼距有多遠,將所有的圖像轉換成數學公式或向量。 Clearview 創建了一個巨大的目錄,將所有帶有相似向量的照片聚集到“社區”中。當用戶上傳一張臉的照片到 Clearview 的系統時,它會將這張臉轉換成一個矢量,然后顯示出該矢量領域中所有采集到的照片,以及這些圖片來源的網站鏈接。
Schwartz 支付了服務器成本和基本費用,但公司運作十分簡單——每個人都在家工作。“我靠信用卡過日子,”Ton-That 說,“另外,我是比特幣的信徒,所以我有一些比特幣。”
該人臉識別程序通過警方的試用引起轟動
到 2017 年底,該公司已經開發出一個強大的面部識別工具,叫做 Smartcheckr。但是 Schwartz 和 Ton-That 還不確定他們要賣給誰。
也許它可以用來審查家里雇傭的保姆,或者作為監控攝像頭的附加功能。酒店大堂的保安也能夠利用這個工具直接識別出客人身份,或者幫助酒店員工識別出客人的名字,怎么樣?“我們考慮了所有的想法。”Ton-That 表示。
該公司很快將其名稱改為 Clearview AI,并開始向執法部門營銷軟件。那時,該公司獲得了第一輪外部投資者的資金:Thiel 和 Kirenaga Partners。值得一提的是,Thiel 還因秘密資助 Hulk Hogan 的訴訟而出名,那起訴訟導致廣受歡迎的網站 Gawker 破產。Thiel 和 Ton-That 都是 Gawker 網站上負面新聞的主人公。
Thiel 的發言人 Jeremiah Hall 稱,“2017 年,Thiel 給了一位才華橫溢的年輕創始人 20 萬美元,兩年后這筆錢轉化成了 Clearview AI 的股權。”這是 Thiel 對該公司唯一的貢獻——他與該公司無關。”
追蹤初創企業投資的網站 Pitchbook 的數據顯示,即使在 2019 年進行了第二輪融資之后,Clearview 的規模仍然很小,累計從投資者那里籌集了 700 萬美元。該公司拒絕向媒體確認投資金額。
今年 2 月,印第安納州警方開始對 Clearview 進行試驗。他們在使用這款應用的 20 分鐘內解決了一起案件。兩名男子在公園里打架,其中一人朝另一人的肚子開槍。一名旁觀者用手機記錄了犯罪過程,因此警方可以通過 Clearview 的應用程序查看槍手的其他圖片。
他們很快就找到了匹配的人:這名男子出現在有人發布在社交媒體上的視頻中,他的名字也出現在了視頻的字幕中。“他沒有駕照,成年后也沒有被逮捕,所以他不在政府的數據庫中,”時任印第安納州警長的 Chuck Cohen 說。
這名男子被逮捕并受到指控;Cohen 表示,如果沒有在社交媒體上搜索他的臉的能力,他可能不會被認出來。據 Clearview 稱,印第安納州警方成為該公司的第一個付費客戶。(警方拒絕置評,只是說他們測試了 Clearview 的應用。)
Clearview 找了現任和前任共和黨官員來接近警察部隊,提供免費試用和年度許可證,費用低至 2000 美元。據 Ton-That 稱,Schwartz 利用他的政治關系向政府官員介紹了這個面部識別系統。(“我很高興有機會幫助 Hoan 把 Clearview 打造成一個以使命為導向的組織,幫助執法部門保護兒童,加強全國各地社區的安全,”Schwartz 通過發言人說。)
該公司最有效的銷售技巧是為警察提供 30 天的免費試用,然后警官鼓勵他們的采購部門注冊軟件,并在會議和在網絡向其他警察部門的警官稱贊該工具。就這樣,Ton-That 開發的軟件終于引起了轟動。
7 月,美國新澤西州克利夫頓的一名偵探在一封電子郵件中敦促他的上司購買該軟件,因為它“能夠在幾秒鐘內識別出嫌疑人”。在該部門的免費試用過程中,Clearview 利用軟件指認出了商店扒手、蘋果商店竊賊和一名見義勇為的人,這名見義勇為的人毆打了一名持刀威脅他人的歹徒。
這名偵探在電子郵件中寫道,“我們可以用長焦鏡頭秘密拍攝照片再傳到軟件上進行識別,而不使用警方的跟蹤監控操作。”這封郵件是由兩位研究人員提供給時報的。去年年底,他們在調查當地警察部門如何使用面部識別時發現了 Clearview。
據《紐約時報》看到的一份 Clearview 銷售報告顯示,該應用程序幫助識別了分類人群:一個人被指控性虐待兒童的人,他的臉出現在了別人健身房里的鏡子里;亞特蘭大一系列郵箱失竊事件的幕后黑手;阿拉巴馬州人行道上發現的死亡的無名氏;以及多起銀行身份欺詐案件的嫌疑人。
去年夏天,在佛羅里達州的蓋恩斯維爾,美國警探 Nick Ferrara 在 Clearview 在 CrimeDex 上做廣告時聽說了這家公司。CrimeDex 是專門為金融犯罪調查人員提供的。他說,他以前只依賴于國家提供的面部識別工具 FACES,該工具是從佛羅里達州 3000 多萬張臉部照片和機動車輛管理局的照片中提取信息。
Sergeant Ferrara 發現 Clearview 的應用程序更高級。它的全國圖像數據庫要大得多,而且與人臉不同,Clearview 的算法不需要人們直視攝像頭的照片。
“使用 Clearview,你可以使用不完美的照片,”費拉拉警官說。“一個人可以戴著帽子或眼鏡,也可以是側面照或臉部的局部特寫。”
他把自己的照片上傳到系統,系統就調出了他在社交支付網站 Venmo 的個人資料頁面。他上傳了一些老舊案件的照片,從而確認了 30 多名嫌疑人的身份。9 月,蓋恩斯維爾警察局支付了 10000 美元購買了一年的該軟件的許可證。
據該公司和政府官員說,包括聯邦調查局和國土安全部在內的聯邦執法部門以及加拿大執法部門也在試用該軟件。
盡管 Clearview 越來越受歡迎,但直到 2019 年底,Clearview 才被公眾所知,當時佛羅里達州的檢察官指控一名女子犯有重大盜竊罪,原因是她在克萊蒙特的一家王牌五金店偷了兩個烤架和一個真空吸塵器。警方將監控錄像上傳到 Clearview,從而找到了她的 Facebook 頁面,隨后確認了她的身份。根據該案的相關文件,監控視頻和 Facebook 照片中都可以看到的紋身證實了她的身份。
“我們都完蛋了”
Ton-That 說這個工具并不總是有效。Clearview 數據庫中的大多數照片都是在與眼睛水平的高度拍攝的。警方上傳的大部分材料來自安裝在天花板或高墻上的監控攝像頭。
“他們把監控攝像頭放得太高了,”Ton-That 感嘆道。“這個角度不適合人臉識別。”
盡管如此,該公司表示,它的工具在 75% 的情況下都能找到匹配項。但目前尚不清楚該工具提供虛假匹配的頻率,因為它還沒有經過美國國家標準與技術研究院等獨立機構的測試,這一家評估人臉識別算法性能的聯邦機構。
“我們沒有數據表明這個工具是準確的,”喬治敦大學隱私與技術中心的研究員 Clare Garvie 說。“數據庫越大,‘二重身’效應導致的錯誤識別風險就越大。他們指的是在互聯網上隨機找到的大量人群的數據庫。”
但現任和前任執法官員表示,該應用程序是有效的。“對我們來說,試用過程的重點是它是否有效,”前印第安納州警長 Cohen 表示。
Clearview 流行的一個原因是它的服務是獨一無二的。這是因為 Facebook 和其他社交媒體網站禁止人們抓取用戶的圖片——Clearview 違反了這些網站的服務條款。
“很多人都在這么做,”Ton-That 聳了聳肩。“Facebook 知道的。”
Facebook 發言人 Jay Nancarrow 表示,公司正在與 Clearview 一起審查這一情況,“如果我們發現他們違反了我們的規定,將采取適當的行動”。
Clearview 的投資者 Thiel 是 Facebook 的董事。Nancarrow 拒絕就 Thiel 的個人投資置評。
一些執法官員說,他們沒有意識到自己上傳的照片被發送到 Clearview 的服務器上并存儲在那里。Clearview 試圖通過向潛在客戶提供一份F.A.Q.文件來消除人們的擔憂,該文件稱其以客戶為先的員工不會查看警方上傳的照片。
Clearview 公司還聘請了 George W. Bush 總統時期的任美國總檢察長的 Paul D. Clement,以減輕人們對該應用程序合法性的擔憂。
在 Clearview 今年 8 月提供給潛在客戶(包括亞特蘭大警察局和佛羅里達州皮內拉斯縣警長辦公室)的一份備忘錄中,Clement 表示,執法機構“在出于既定目的使用 Clearview 時,不違反聯邦憲法或相關的現行州生物特征和隱私法”。
Clement 現在是 Kirkland & Ellis 律師事務所的合伙人,他寫道,當局沒有必要告訴被告他們是通過 Clearview 被指認的,只要這不是獲得逮捕令的唯一依據。Clement 沒有回復記者的多次置評請求。
備忘錄似乎很有效:亞特蘭大警察和皮內拉斯縣治安官辦公室很快開始使用 Clearview。
Ton-That 表示,他的公司只使用公開的圖片。他說,如果你改變了 Facebook 的隱私設置,使搜索引擎無法鏈接到你的個人資料,你在 Facebook 上的照片就不會被包括在數據庫中。
但如果你的資料已經被搜羅了,那就太晚了。盡管這些圖片后來可以被刪除或撤下,該公司仍保留所有被采集的圖像。但 Ton-That 表示,該公司正在開發一種工具,可以讓人們在圖片從網站上撤下后要求刪除公司采集的圖像。
位于波士頓的東北大學的法律和計算機科學教授 Woodrow Hartzog 認為 Clearview 是美國應該禁止面部識別的最新證據。
Hartzog 稱,“我們依靠行業的努力進行自我監督,不接受這種有風險的技術,但現在這些大壩正在破裂,因為金錢的誘惑。”他說:“我不認為在不嚴重濫用監視器的情況下,我們利用面部識別技術有什么未來(我認為大量利用面部識別技術隨之而來的可能是監視的泛濫)。阻止它的唯一方法就是禁止它。”
總結
以上是生活随笔為你收集整理的隐私没了!这家创企30亿图库,一张照片就能顺着网线揪出你的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 两次新基因大爆发,塑造了今天的地球
- 下一篇: 特斯拉与德国达成协议:3亿元购买300公