日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

不同行业的软件安全标准介绍和对比

發(fā)布時間:2023/12/20 编程问答 44 豆豆
生活随笔 收集整理的這篇文章主要介紹了 不同行业的软件安全标准介绍和对比 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

轉(zhuǎn)載于知乎Jessie Yang :https://zhuanlan.zhihu.com/p/112735361


引言

隨著工業(yè)各個領域的系統(tǒng)復雜度和軟件功能的快速發(fā)展,在每個行業(yè)都有相應的軟件開發(fā)保證標準,來保證所研制的軟件達到相應的安全級別。那么各個行業(yè)的軟件安全標準之間有什么共性和差別呢?

這里簡要介紹六種不同的軟件開發(fā)保證標準,包括民航(DO-178C)、汽車(ISO 26262) 、航天(ECSS-Q-ST-80C)、工業(yè)自動化(IEC61508)、核工業(yè)(IEC 60880 ) 和軌道(EN 50128),并且比較每個標準在規(guī)定的目標、活動、方法和工具上的異同。

各行業(yè)安全標準概述

我們先從工業(yè)通用標準 IEC61508說起—

  • 創(chuàng)始祖師 IEC61508

1985年: IEC成立了一個PESs 工作組,試圖對安全相關(guān)軟件設立一個國際安全標準1998-2000: IEC 61508 Part 1~7 發(fā)布

2002年: 開始更新改進標準

2005年: IEC61508 - 0 發(fā)布 (Part 0: Functional safety and IEC 61508)

2010年: IEC 61508 Edition 2.0 發(fā)布

工作組的本意是建立一個基礎模板 — 僅僅用于設定起草各行業(yè)標準的規(guī)則。但實際上,現(xiàn)在IEC 61508 往往被直接用于工業(yè)領域。之后,各分支行業(yè)的具體標準從IEC 61508 派生:

各分支行業(yè)的具體標準從IEC 61508 派生

過程工業(yè),機械(IEC 61511:2003,62061:2005),電力驅(qū)動系統(tǒng),可編程控制器(IEC 61800:1997,61131-6(CDV)),通信網(wǎng)絡(61784-3:2007) ,爆炸性環(huán)境,檢測,測量,設備(EN 60079,50271,5042),醫(yī)療設備(IEC 60601:2005),鐵路(EN 50126,50128,50129),汽車(ISO / DIS 26262),其中最接近的一個是過程工業(yè)的IEC 61511,因為大多數(shù)IEC 61508工作組成員來自該領域。

注:IEC 61508對某些標準的派生關(guān)系受到爭議,因為某些“行業(yè)特定”標準(例如 IEC 61513 核工業(yè))早于IEC 61508發(fā)布,并且開發(fā)出非常不同的安全方法。

值得注意的是,盡管系出同門,但各行業(yè)在標準應用時,與原有運行標準和整體系統(tǒng)方法往往有沖突。比如航空的DO-178C與IEC 61508有很大差異

  • 核能領域

IAEA(國際原子能機構(gòu))于1957年在聯(lián)合國成立,旨在促進和支持安全利用核技術(shù)促進和平應用,目前有151個成員國。

已有標準: “安全導則”[IAEA NS-G-1.3](2002) 為“核電廠安全重要的儀器與控制(I&C)系統(tǒng)”提供了一般指導,介紹了這些系統(tǒng)的分類,安全要求和設計。它結(jié)合和修訂了1980年發(fā)布的早期指南(50-SG-D3:保護系統(tǒng)和相關(guān)功能)和1984(50-SG-D8:安全相關(guān)儀器和控制系統(tǒng))。

根據(jù)與國際原子能機構(gòu)的協(xié)議,IEC 在技術(shù)細節(jié)方面制定了實施國際原子能機構(gòu)安全原則的標準。自1980年代以來,IEC已經(jīng)定制了以下設計和驗證基于計算機的系統(tǒng)的方法,以滿足核電廠的需求:

IEC 61226- 核電廠I&C(儀器和控制)功能分類方法。

IEC 61513-為用于執(zhí)行安全重要功能的I&C系統(tǒng)提供一般指導,并考慮到其分類。

IEC 60880-對核電站最高級I&C系統(tǒng)的軟件提出要求,以實現(xiàn)高可靠性的軟件

  • 民用航空領域

1980年,無線電航空技術(shù)委員會(現(xiàn)在的RTCA)成立了一個開發(fā)和記錄軟件實踐委員會,以支持開發(fā)基于軟件的機載系統(tǒng)和設備。 歐洲民用航空電子組織(現(xiàn)在的EUROCAE)此前已經(jīng)成立了一個工作組來制作類似的文件,并于1980年10月準備出版文件ED-35“軟件建議書” 機載系統(tǒng)的實踐與文獻。EUROCAE決定停止編輯自己的文件,并加入RTCA來制定一套通用的指南。 1982年出版了名為ED-12 / DO-178“機載系統(tǒng)和設備認證中的軟件注意事項”的聯(lián)合文件,1985年修訂版A,1992年修訂版B。2012年發(fā)布 ED-12 / DO-178C,包括特定技術(shù)或方法的指導原則。

在修訂DO-178BB的開發(fā)過程中,委員會發(fā)現(xiàn),系統(tǒng)級信息需要作為軟件開發(fā)過程的輸入。 許多系統(tǒng)級決策對于飛機系統(tǒng)的安全和功能方面至關(guān)重要,有必要將與這些決策有關(guān)的過程和結(jié)果進行監(jiān)管。因此,SAE(汽車工程師協(xié)會)和EUROCAE在1995年出版了ED-79 / ARP-4754“高度集成或復雜的飛機系統(tǒng)的認證注意事項”。 它涉及實現(xiàn)飛機級功能的系統(tǒng)總體生命周期。 它重點關(guān)注對系統(tǒng)建立安全性的問題,而不覆蓋各系統(tǒng)、軟件和硬件的具體設計流程。2010年,委員會又進一步發(fā)布了ED-79 / ARP-4754A。

2000年4月,EUROCAE / RTCA又發(fā)布了文件**ED-80 / DO-254“機載電子硬件設計保證指導”**來解決復雜硬件設計方面的具體要求。

在系統(tǒng)層面,同時還有一個重要的 EUROCAE / SAE文件ED-135 / ARP-4761詳細說明了安全評估過程的方法。

民航領域的主要安全標準

  • 航天領域

航天領域的監(jiān)管歷史可以追溯到上世紀更早期。聯(lián)合國COPUOS(和平利用外層空間委員會)于1958年成立,該委員會制定了一系列條約和原則,特別確定了各國本地發(fā)射造成的潛在損害的責任。因此,大多數(shù)國家已經(jīng)制定了適用于太空發(fā)射活動的規(guī)則和法律授權(quán)方案

除了法律制度之外,航天業(yè)已經(jīng)認識到建立和實施空間產(chǎn)品和方案的標準的價值和需要。例如在歐洲,歐空局標準化體系PSS(程序,規(guī)范和標準)逐步闡述之后,歐洲航天局與歐洲航天機構(gòu)和行業(yè)在九十年代初建立了歐洲空間標準化組織(ECSS)ECSS,以制定和維護單一、一致、公認的共同標準體系。

ECSS標準不具有法律強制性,可以根據(jù)具體情況的協(xié)議采用和改編。其實現(xiàn)是通過涉及所有利益攸關(guān)方的合作工作來闡述的。
ECSS系列組織為三大分支(M:空間項目管理; Q:空間產(chǎn)品保證; E:空間工程)。
每個分支都有一級標準、可能補充附加文件(更詳細的標準或指導,以應用一級標準,或提供額外的非規(guī)范性信息的手冊)。

  • 汽車領域

汽車行業(yè)最知名、應用最廣泛的安全標準當屬 SAE ISO 26262,ISO 26262:(Road vehicles – Functional Safety)是在IEC 61508 標準的基礎上,以道路車輛電子及電氣系統(tǒng)應用產(chǎn)業(yè)的角度,具體規(guī)范汽車電子安全系統(tǒng)從開發(fā)到使用的安全生命周期的技術(shù)與管理要求。

近年來,隨著自動駕駛、智能網(wǎng)聯(lián)的快速發(fā)展,ISO PAS 21448、21434 、UL4600 等相關(guān)標準也在制定中。

  • 軌道領域

軌道行業(yè)的國際安全標準主要由CENELEC是歐洲鐵路電工設備標準化委員會(替代國家標準)發(fā)布,CENELEC與IEC合作,其標準通常被接受為全球標準。目前CENELEC/IEC標準主要包括:

軌道行業(yè)主要安全標準

?EN 50126 :1999 (IEC 62278) **(Part2 :2017)**鐵路控制和保護系統(tǒng)的RAMS(可靠性,可用性,可維護性和安全性)規(guī)范和演示

?EN 50129:2003 (IEC 62280) 鐵路控制和保護系統(tǒng)的安全案例

?EN 50128:2011 (IEC 62279) 鐵路控制和保護系統(tǒng)軟件

EN 50126 和 EN 50129 關(guān)注系統(tǒng)層需求 , EN 50128 關(guān)注軟件層需求

預告:下一篇講繼續(xù)介紹基于以上標準,各個行業(yè)的認證、鑒定、信用批準,以及各個標準的技術(shù)比較。

【參考文獻目錄】

  • Emmanuel Ledinot(1), Jean-Marc Astruc(2), Jean-Paul Blanquart(3), A cross-domain comparison of software development assurance
  • P. Baufreton1, JP. Blanquart2, JL. Boulanger3,Multi-domain comparison of safety standards,2010

  • 引言

    上一篇文章簡要介紹了各個行業(yè)主要的安全標準,這一篇繼續(xù)分享— 基于各行業(yè)的安全標準,怎樣進行軟件認證、工具鑒定、信用批準等方面。

    首先,我們來看兩個概念----

    認證 Certification Vs. 評估 Assessment

    談到安全標準,我們就避不開兩個基本概念:認證和評估。

    • 評估 Assessment: 為某個實體(個人、組織或人工產(chǎn)品)授予某置信水平的一系列活動。其有效性依賴于: 項目、參與者、使用情況、時間線。
    • 認證 Certification: 評估申請人向認證機構(gòu)證明其工程過程,表明制造商通過遵守安全標準來確保對安全目標的監(jiān)管。認證旨在驗證在一個領域(如能源或運輸)提供安全關(guān)鍵產(chǎn)品或服務的工業(yè)行為者確實提供了安全的產(chǎn)品或服務。 認證涉及申請人,標準條例,管理局和必須獨立或部分獨立于申請人的評估機構(gòu)

    大多情況下,這些標準條例是由國際組織成員國設立的,成員國同意建立共同的規(guī)則來防止共同的風險。比如: ICAO在民航,IAEA核工業(yè),聯(lián)合國在航天工業(yè)。某些情況下,標準條例在國家級生效,然后在國際層面上解決跨境互操作性問題。 比如鐵路行業(yè),歐洲成員國目前正在執(zhí)行標準的統(tǒng)一進程 — 相互接受其國家證書。

    *注意:工業(yè)領域的認證并不會導致責任從申請人轉(zhuǎn)移到認證機構(gòu)。 在發(fā)生嚴重事故的情況下,涉及的制造商或服務提供者是唯一可以起訴的實體。*

    此外,還有一個概念也經(jīng)常被提及,那就是鑒定 Qualification:

    鑒定針對**特定項目中的特定任務,**是為一個實體(可以是一個組織、一個人、一個工具)提供置信水平的一系列活動。

    例如,用鑒定來確保通過使用工具自動化的軟件生命周期過程將導致與手動執(zhí)行過程相同或更高質(zhì)量的輸出。

    目前,無論是航空、軌道、汽車等領域,還是工業(yè)領域,都對工具使用有著特別的要求,如果通過使用工具,消除或者自動化了部分人工工作,都需要根據(jù)所涉及的軟件安全級別,對所使用的工具進行相應等級的工具鑒定。這實際上是把軟件開發(fā)人員的部分工作轉(zhuǎn)移到了工具開發(fā)商那邊。

    各行業(yè)對評估和認證的信用批準

    根據(jù)各行業(yè)的不同情況,管理局和評估機構(gòu)可能是同一機構(gòu)(例如,民用航空局的FAA和EASA),也可能只有頒發(fā)證書的機構(gòu),但沒有與申請人(例如工業(yè)自動化和航天業(yè))獨立的評估機構(gòu)的情況。

    申請人和評估機構(gòu)之間的利益無關(guān),核工業(yè)(IRSN)、鐵路(ERA,EPSF,STRM-TG)和航空(EASA-FAA)認證的關(guān)鍵要求。

    • 航空

    由FAA或EASA等獨立機構(gòu)負責飛機及其嵌入式系統(tǒng)的安全認證。

    認證通常適用于飛機或發(fā)動機類型

    認證機構(gòu)將軟件視為安裝在認證飛機或發(fā)動機中的機載系統(tǒng)或設備的一部分; 也就是說,認證機構(gòu)不會將該軟件作為唯一的獨立產(chǎn)品。 目前,計算機硬件和軟件必須做為每次安裝的一個“系統(tǒng)”被批準。

    • 航天

    適用于歐洲航天領域的一系列標準,由ECSS、歐洲航天標準化合作,歐洲航天局,國家航天機構(gòu)和歐洲工業(yè)協(xié)會為發(fā)展和維持共同目標而合作制定。

    ECSS標準不是法律強制的,而是通過合同逐案提出、采用、修改。這并不意味著航天業(yè)不會以更嚴格的方式進行認證 — 大多數(shù)國家對于在其領土上發(fā)射的航天設備,都制定了與發(fā)射裝置、航天器、發(fā)射程序有關(guān)的特定法律規(guī)則,以及相應的許可證制度。

    • 汽車領域

    SAE ISO 26262提供了一系列要求,即所謂的確認措施,以確保對E/E方面的安全性進行適當?shù)脑u估。

    執(zhí)行確認措施的行為人員應具有與負責發(fā)展和釋放生產(chǎn)的人員的最低程度的獨立性。 **ASIL(汽車安全完整性等級)**越高,所需的獨立性就越高。 值得注意的是,所需的最高獨立性, 可能允許在同一家公司內(nèi)

    確認措施包括:

    **安全評估,**以驗證關(guān)鍵的可交付成果,

    安全審計,以驗證過程的適當性,

    評估整個安全項目的安全評估。

    • 軌道交通

    主要認證標準是法律要求的歐洲鐵路標準 CENELEC 5012x系列標準, 它們是歐盟鐵路行業(yè)的“實踐守則”,也是鐵路安全相關(guān)應用審批的先決條件和促進市場準入的國際標準,在歐洲各國具有法律的約束力。

    認證和鑒定根據(jù)符合特定標準和/或規(guī)范要求確定。可能需要第三方認證,或進行自我評估。

    比較成熟的評估體系包括:英國CASS安全評估框架、德國TUV評估體系等,他們主要以EN鐵路標準為基準,依托第三方評估機構(gòu)對已有線路和在建項目的進行安全性論證。

    • 工業(yè)自動化

    標準IEC 61508 不提供任何類型的認證

    歐洲機械業(yè)指令(EMD)要求完成具有CE標識的認證 — 由制造商完成自我認證。

    • 核工業(yè)

    所有使用核能的國家都設立了安全管理局,以控制其使用,保護人民和環(huán)境免受輻射的有害影響。比如在法國,安全管理局是ASN大學, 其技術(shù)支持是無線電保護和核保安學院(IRSN)。核電廠不是去提交“認證”申請,而是通過授權(quán)運營。 根據(jù)ASN的提案,授權(quán)必須通過政府的正式法令。

    一張圖總結(jié):

    各行業(yè)的申請人、評估機構(gòu)與認證機構(gòu)

    我們可以看到,通常在航空、軌道、航天、核能領域,都要求由獨立的第三方機構(gòu)進行認證,而自動化、汽車領域,并沒有強制要求第三方認證(近年來,汽車行業(yè)隨著自動駕駛的快速發(fā)展,安全性要求進一步提升,已經(jīng)有改變的趨勢)。

    不同行業(yè),評估和認證獨立性要求嚴格程度遞增

    預告: 不小心寫太長,下一篇繼續(xù)介紹各行業(yè)標準的技術(shù)比較。

    【參考文獻目錄】

  • Emmanuel Ledinot(1), Jean-Marc Astruc(2), Jean-Paul Blanquart(3), A cross-domain comparison of software development assurance
  • P. Baufreton1, JP. Blanquart2, JL. Boulanger3,Multi-domain comparison of safety standards,2010

  • 引言

    上兩篇文章簡要總結(jié)了不同行業(yè)的軟件安全標準概況和認證、取證,這篇接著來說說各個標準在技術(shù)上的具體差別。

    Jessie Yang:不同行業(yè)的軟件安全標準介紹和對比 (上篇)9 贊同 · 0 評論文章

    Jessie Yang:不同行業(yè)的軟件安全標準介紹和對比 (中篇)5 贊同 · 0 評論文章

    各個標準的軟件安全標準技術(shù)比較

    不同行業(yè)對于軟件安全的標準和要求各有特點,基本上可以從幾個方面來做個比較和總結(jié):

    • 集成安全系統(tǒng) Vs. 獨立安全系統(tǒng)
    • 規(guī)定目標 Vs. 規(guī)定方法
    • 嚴重程度和保證級別分類
    • 容錯或故障預防
    • 概率評估與確定性分析
    • 安全案例

    1)集成安全系統(tǒng) Vs. 獨立安全系統(tǒng)

    根據(jù)不同應用和領域,“安全”是通過不同架構(gòu)來確保的。

    比如, 核電、機械自動化、航天和軌道領域通常采用一個專門的安全系統(tǒng):安全由一個相對獨立的系統(tǒng)來監(jiān)控和保證,與執(zhí)行所需功能的系統(tǒng)區(qū)分開來。而汽車和航空領域,安全性通常是“集成”在功能系統(tǒng)中

    在具體實踐中,這種選擇是根據(jù)風險與保護系統(tǒng)的結(jié)構(gòu)來確定。例如,如果沒有特定的安全狀態(tài),分離的保護系統(tǒng)是沒有作用的,因為在保護系統(tǒng)故障時,不可能將受控設備驅(qū)動到安全狀態(tài)。因此,必須專注于安全控制系統(tǒng),而不是去開發(fā)專用的獨立保護系統(tǒng)。

    汽車行業(yè),硬件成本是關(guān)鍵的設計驅(qū)動。因此,不會考慮專用的獨立保護系統(tǒng)。在大多數(shù)應用中,控制系統(tǒng)提供內(nèi)置機制來檢測故障并將系統(tǒng)置于安全狀態(tài)。在某些情況下,當可以使用另一個系統(tǒng)的現(xiàn)有功能作為保護機制時,則會考慮外部安全。

    2)規(guī)定目標 Vs. 規(guī)定方法

    各個安全標準,或者對滿足高級別安全目標的方法進行規(guī)定,或者對目標進行規(guī)定,至于方法,則完全由申請人負責。

    **方法規(guī)范性標準,**在嚴格按照作者所設想條件的情況下,易于使用。然而,它不能很好地應對新技術(shù)、方法和工具的出現(xiàn)。
    目標規(guī)范性標準可適用于各種技術(shù)、生命周期、工具等,但需要在使用前進行解釋 ; 并且解釋可能存在問題,可能與標準作者的意圖有很大差異。

    在這兩個極端之間,不同的標準采取了各種立場:

    IEC 61508和EN 50128是指定方法的,因為它“建議”、“強烈建議”甚至“命令”具體的方法來實現(xiàn)安全目標;

    ED-12 / DO-178 一般認為是目標性規(guī)定標準;

    ISO / DIS 26262和ECSS,通過建議技術(shù)方法,混合了一些針對目標的要求。

    3)嚴重程度和保證級別分類

    在各個行業(yè)領域中,標準都有 “級別”的分類,比如安全完整性級別、關(guān)鍵類別等。其思想是將系統(tǒng)(或功能,組件等)潛在故障的最壞后果(嚴重程度)相關(guān)聯(lián) ,某些領域(例如汽車)里,可能與曝光頻率相結(jié)合。 經(jīng)典的基于風險評估的方法中,每個“級別”對發(fā)生故障的可能性設置了限制,從而將風險控制在可接受的范圍內(nèi)。

    關(guān)鍵類別通常都是分配給功能, 這樣就定義了用于開發(fā)(和驗證)該功能的實施元素(系統(tǒng)\硬件\軟件項目)的(部分)需求,以便針對不同類別適當?shù)靥幚砜赡艿墓收蟻碓?#xff1a;

    • 隨機硬件故障:對于每個類別,安全標準定義了目標最大故障率、導致故障的最小獨立錯誤數(shù)。
    • 影響系統(tǒng)、硬件或軟件設計的開發(fā)錯誤:安全標準定義了適用于所有開發(fā)和驗證過程的要求,特別是開發(fā)和驗證流程。對于不同的關(guān)鍵類別(或類似概念),有著不同的要求,定義不同的DAL(開發(fā)保證級別)。 其思想是,不試圖量化評估由于這些錯誤而導致的故障概率,而是考慮滿足這些要求,提供了與風險嚴重程度相當水平的信心

    所有標準在基本原則上都是一致的,并且都認為必須強制隔離不同級別元素之間的故障傳播。但是,針對如何對后果的嚴重程度定義和排序,以及如何分配關(guān)鍵類別(例如,是否以及如何,通過在較低級別采用某種冗余方案,來實現(xiàn)某個級別的功能),標準之間存在著明顯的差異。

    • IEC 61508 分為SIL 1-4 ,EN50128分為SIL 0-4 ,ISO / DIS 26262分為ASIL A,B,C,D
    • ED-12 / DO-178 分為 DAL A,B,C,D ,其中A級針對災難性后果,為最高級別

    每個類別相關(guān)的要求甚至其性質(zhì)也存在差異

    • ED-12B / DO-178B對不同的級別規(guī)定了過程目標
    • IEC 61508或EN 50128明確列出了不同級別推薦的技術(shù)
    • ISO / DIS 26262和ECSS,通過建議技術(shù)方法,混合了一些針對目標的要求。

    4)容錯和故障預防

    基本上,各個領域中,容錯都是在系統(tǒng)級別要求,而不是在軟件層面進行要求:軟件標準基本上針對如何實現(xiàn)無錯誤的軟件,或明確規(guī)定(IEC 60880 或 EN 50128),或隱含要求(ED-12 / DO-178等),通常是通過對過程(例如,清晰全面的文檔、遵守規(guī)范、設計和代碼標準)和產(chǎn)品(例如,驗證、確定性結(jié)構(gòu)、管理并行性、完全由輸入確定功能的行為)提出要求。

    軟件標準(如 IEC 60880)通常要求的自檢,主要面向隨機硬件故障的檢測,例如內(nèi)存損壞或傳輸錯誤。在檢測到故障的情況下,標準不要求繼續(xù)正常處理,但要求采取預定義的行為(例如,將輸出設置到安全位置)。軟件不考慮對自身錯誤的容錯,因為檢測和重新配置算法,可能比功能軟件本身更復雜,反而增加錯誤的可能性。

    • IEC 60880等標準要求自檢不會對預期功能產(chǎn)生不利影響。
    • 軌道行業(yè)標準 CENELEC EN 50128 指出,不建議軟件的向后和向前恢復、動態(tài)重新配置和/或故障校正。

    **在系統(tǒng)級別或頂層架構(gòu)上,可以通過冗余設計,實現(xiàn)對潛在軟件容錯。**例如,系統(tǒng)內(nèi)的次計算機可以監(jiān)視主計算機,并使用不同的算法檢查其輸出的合理性,或者基于涉及不同物理測量的不同算法,兩個不同的系統(tǒng)可以獨立地觸發(fā)給定的安全動作。這些架構(gòu)解決方案之間的選擇主要取決于底層受控過程的特征。

    5)概率評估與確定性分析

    航空,自動化,汽車,核能,鐵路和航天領域的可靠性標準中,系統(tǒng)故障風險量化方法是相同的。

    各個領域的標準都沒有要求/支持對軟件故障的概率評估。與硬件相反,軟件被統(tǒng)一視為確定性的人為因素,功能故障只會由規(guī)范、設計或?qū)崿F(xiàn)中的錯誤引起。 因此,軟件安全的建設、評估和衡量,通過設計保證來統(tǒng)一處理 ---- 通過基于流程和產(chǎn)品開發(fā)活動的標準組合來實施。各個標準根據(jù)不同質(zhì)量和開發(fā)活動目標,對于回避開發(fā)缺陷的策略的嚴格程度可分為3~5個級別。但是,每個級別的殘余故障或功能障礙無法量化,對于可能引發(fā)系統(tǒng)故障的殘余軟件故障,是通過容錯機制來處理的---- 這些機制無論是在軟件還是硬件中實現(xiàn),仍然是確定性的。

    概率評估一方面可以量化組件級硬件故障的可能性,另一方面,可以量化系統(tǒng)級別針對用戶的災害事件的可能性。所有的標準都在系統(tǒng)級別,根據(jù)災害事件的嚴重程度來設置基于概率的目標,從而防范這些事件。

    基于“分而治之”的策略,作為實踐中唯一易行的方法,各個標準明確或暗示推薦,針對系統(tǒng)級失效行為的概率評估方法不依賴于系統(tǒng)級行為分析 ---- 而是依賴于架構(gòu)建模,其中可能包括時間依賴的容錯重配置邏輯,通過可靠性圖表、故障樹或狀態(tài)機捕獲事件到功能、功能到部件的依賴關(guān)系。

    所有標準中,一方面,由設計保證策略規(guī)定局部行為(硬件或軟件)的確定性分析,另一方面,基于嚴重程度的概率目標規(guī)定了通過“全局功能 – 部件”依賴關(guān)系圖對事件進行概率分析。

    **軟件安全標準的重點在于確定性驗證。**例如,通過選定的測試來覆蓋所有功能,并進一步驗證通過這些測試達到適當?shù)慕Y(jié)構(gòu)覆蓋。對于安全關(guān)鍵軟件(例如,在核能或航空領域),這些測試由獨立于開發(fā)團隊的人員完成。

    符合行業(yè)特定標準的軟件開發(fā),使得根據(jù)系統(tǒng)概率目標分配的安全要求得以滿足。

    6)安全案例

    一個安全案例是“一個文獻記錄的證據(jù)體系,提供了令人信服和有效的觀點,即系統(tǒng)對給定環(huán)境中的給定應用程序是足夠安全的”, 目的是展示產(chǎn)品的安全性。所以可以說,安全案例其實就是一篇有論點、論據(jù)和認證過程的完整議論文,是認證的基石。 它通常在生命周期內(nèi)逐步生成,并且在某個里程碑交付,比如進展到詳細開發(fā)之前,或安裝和調(diào)試之前。

    安全案例是有因果支撐的論據(jù),是一種記錄和向利益相關(guān)者提供保證的方式,保證由于遵守特定的安全標準,系統(tǒng)是可接受的、安全的。它必須在產(chǎn)品的所有生命周期內(nèi)(甚至在停產(chǎn)后)更新、可用。

    根據(jù)不同工業(yè)領域或國家,安全案例的構(gòu)成可能不同。它可以像開發(fā)過程中產(chǎn)生的信息集合一樣簡單,或者是在完整的安全生命周期中收集的完備證據(jù)。

    • 軌道領域(CENELEC EN 50129)和汽車領域(ISO / DIS 26262)的安全標準就是一個安全案例,CENELEC EN 50129甚至定義了安全案例的內(nèi)容。
    • 航空,核能或航天領域,標準則沒有明確提及安全案例,但為了符合該領域安全標準而提供的文件和保證,本身也就是安全案例的內(nèi)容。

    題外話

    在和各行業(yè)安全人員的交流中,大家常常會問,軟件安全分析怎么做?其實,不同行業(yè),軟件安全分析的定位各有不同。

    **在民航[ARP-4754A; ARP4761; DO-178C],核[IEC-61513,IEC-60880],航天[ECSS-Q40; ECSS-Q80]領域,在一定程度上,安全分析在系統(tǒng)級和功能、子系統(tǒng)和設備上執(zhí)行,但不是以專門的安全分析形式應用于軟件。**在這些領域中,軟件主要通過遵守軟件開發(fā)和驗證規(guī)則來促進系統(tǒng)安全,即通過在相應故障后果的程度上對軟件正確性的置信度進行論證。但值得注意的是,對故障后果進行評估,從而確定開發(fā)保證級別或軟件關(guān)鍵類別,來源于對系統(tǒng)層的安全分析,而不是軟件層的安全分析。

    **相反,在軌道[EN-50129]或汽車[ISO-26262]等領域,總體的安全理論非常相似,但需要對軟件執(zhí)行專門的安全分析。**在基本安全標準IEC 61508中,軟件安全分析包括一套支持功能安全評估的規(guī)范性手段。在過程行業(yè)領域標準 IEC 61511 中,這個概念才剛剛出現(xiàn)。

    總結(jié)

    對于如何最小化軟件開發(fā)和驗證錯誤帶來的風險,各個領域的安全標準存在許多顯著的差異。但這些標準之間主要的差異點并不是程度的多少:比如規(guī)則和標準的多少、結(jié)構(gòu)覆蓋面或核查獨立性的嚴格程度等等,更主要的差異在于一些更原則的問題:規(guī)定目標還是規(guī)定方法? 安全系統(tǒng)如何規(guī)劃等等。

    看看不同領域的標準異同,互通有無,也是蠻有啟發(fā)的事情。

    【參考文獻目錄】

  • Emmanuel Ledinot(1), Jean-Marc Astruc(2), Jean-Paul Blanquart(3), A cross-domain comparison of software development assurance
  • P. Baufreton1, JP. Blanquart2, JL. Boulanger3,Multi-domain comparison of safety standards,2010
  • 總結(jié)

    以上是生活随笔為你收集整理的不同行业的软件安全标准介绍和对比的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。

    www.99在线观看 | 国产精品一区二区在线播放 | 国产中文字幕第一页 | 久久午夜国产精品 | av在线中文| 久久久久久久久久久久国产精品 | 九九九九热精品免费视频点播观看 | 精品福利片| 狠狠综合久久av | 天天干天天操天天操 | 九九热国产视频 | 久久免费视频8 | 欧美大片大全 | 97超碰色偷偷 | 国产在线观看一区 | 免费一级日韩欧美性大片 | 日韩欧美一区二区三区在线 | 亚州人成在线播放 | 国产精品毛片一区 | 免费男女羞羞的视频网站中文字幕 | 成人午夜免费剧场 | 精品在线视频一区二区三区 | 欧美日韩一区二区三区在线免费观看 | 国产精品免费在线观看视频 | 成年美女黄网站色大片免费看 | 亚洲黄色区 | 一区二区中文字幕在线观看 | 久久草视频 | 国产天天综合 | 日日干夜夜操视频 | 国产精品av久久久久久无 | 日本丶国产丶欧美色综合 | 二区三区精品 | 五月天婷婷免费视频 | 色av网站 | 欧美日韩激情视频8区 | 一级做a视频 | 亚洲 精品在线视频 | 91久久国产综合精品女同国语 | 91精品久久久久久久久 | 国产精品免费在线视频 | 久久久久国产精品免费网站 | 久久人人爽人人爽人人片av软件 | 免费av免费观看 | 日本久久电影网 | 精品久久久久久亚洲综合网站 | 超碰人人干人人 | 久久久亚洲电影 | 国产综合香蕉五月婷在线 | 国产在线播放观看 | 91九色国产蝌蚪 | 96av在线| 久久69精品 | 日韩二级毛片 | 激情久久五月 | 欧美在线观看视频一区二区三区 | 欧美日韩1区| 精品一区二区在线免费观看 | 欧美激情一区不卡 | 中文字幕在线国产 | 成在人线av | av电影在线播放 | 亚洲精品国精品久久99热一 | 中文字幕第 | 丁香激情五月婷婷 | 久久免费播放视频 | 91在线观看欧美日韩 | 久久精品导航 | 黄色三级免费网址 | 97超碰中文字幕 | 国产精品久久久久999 | 欧美日韩超碰 | 中文字幕在线播放第一页 | 国产日韩欧美自拍 | 久久国产精品免费看 | av一级一片 | 久久综合色天天久久综合图片 | 亚洲精品中文字幕视频 | 午夜视频亚洲 | 日韩av电影免费观看 | 人人添人人澡人人澡人人人爽 | 国产高清av免费在线观看 | 探花视频免费在线观看 | 色全色在线资源网 | 在线观看你懂的网站 | 久久精品久久精品久久39 | 丁香六月国产 | 在线日韩精品视频 | 日韩毛片在线播放 | 国产高清免费av | 日韩免费在线观看视频 | 夜夜夜夜猛噜噜噜噜噜初音未来 | 国产91精品久久久久久 | av一区二区在线观看中文字幕 | 99精品视频免费全部在线 | 国产 日韩 欧美 中文 在线播放 | 成人精品国产免费网站 | 国产成人高清av | 丁香免费视频 | 久久精品欧美一 | 国产品久精国精产拍 | 国产精品久久久久高潮 | se视频网址 | 精品久久久久久亚洲综合网站 | 人人插人人做 | 在线观看亚洲精品视频 | 美女搞黄国产视频网站 | 在线观看免费高清视频大全追剧 | 在线观看岛国av | 91天堂在线观看 | 亚洲国产日韩一区 | 欧美日韩国产一区二区三区在线观看 | 久在线| www.久久久精品 | 精久久久久 | 精品国产资源 | 九九热只有精品 | 91你懂的 | 欧美久久久久久久久久久 | 久久久久久久久久久久久久电影 | 精品在线观看一区二区 | 亚洲精品综合在线 | 在线成人av | 欧美精品v国产精品v日韩精品 | 欧美夫妻性生活电影 | 婷婷激情在线观看 | 草在线视频| 伊人久久精品久久亚洲一区 | 久草在线看片 | 欧美在线视频日韩 | 在线免费视频一区 | 久久不卡av | 国产91在线观 | 激情网五月婷婷 | 视频一区亚洲 | 日韩黄色免费在线观看 | 欧美影院久久 | 四虎www.| 91色一区二区三区 | 国产小视频91 | 在线免费黄色 | 天天操操 | 色综合色综合久久综合频道88 | 最新av在线免费观看 | 人人舔人人插 | 天天舔夜夜操 | 久久精品永久免费 | 欧美性春潮 | 日本中文字幕在线视频 | 91亚洲精 | 五月天天色 | 国产中文字幕一区二区 | 天天弄天天干 | 国产精品ssss在线亚洲 | 色综合天天做天天爱 | 成人亚洲精品久久久久 | 人人添人人 | 96视频在线 | 日韩在线观看小视频 | 一区二区三区高清在线观看 | 国产精品美女久久久久久久久久久 | 在线播放 一区 | 亚洲欧美成人在线 | 婷婷在线播放 | 亚洲精品国偷拍自产在线观看蜜桃 | 在线视频 一区二区 | 97视频资源| 在线视频1卡二卡三卡 | 久久久久国产一区二区 | 午夜精品久久久久久久久久久久 | 久草视频免费看 | 91在线视频精品 | 天天av综合网 | av一二三区| 久久人人爽人人爽人人片 | 亚洲伦理电影在线 | 国产精品久久久久久爽爽爽 | 五月激情久久 | 色偷偷88欧美精品久久久 | 久久夜色精品国产亚洲aⅴ 91chinesexxx | 成人在线免费观看视视频 | 人人澡人人爱 | 91天堂素人约啪 | 成人夜晚看av | 久草在在线视频 | 一区二区三区免费在线观看 | 国产精品一区二区在线观看免费 | 日本少妇高清做爰视频 | 婷婷丁香社区 | 激情动态 | 天天射天天操天天干 | 国产精品久久久 | 久久欧美在线电影 | 精品国产精品久久一区免费式 | 人人澡人摸人人添学生av | 日本性生活免费看 | 日本中文字幕免费观看 | 欧美婷婷综合 | 欧美日韩在线电影 | 黄色三级在线观看 | 日韩欧美一区二区三区在线 | 日韩视频免费看 | 九九九在线 | 国产电影黄色av | 欧美日韩一区二区三区在线免费观看 | av免费看av | 欧美日韩视频 | 成年人免费观看国产 | 亚洲精选在线观看 | 精品国产精品国产偷麻豆 | 日韩一区二区三区观看 | 欧美日韩在线观看一区二区三区 | 国产精品小视频网站 | 国产中文字幕久久 | 伊人宗合网 | 日韩免费观看一区二区 | 欧美精品在线观看免费 | 在线观看中文字幕亚洲 | 日本一区二区三区免费观看 | 国产精品99久久久久久人免费 | 五月天久久久 | 深爱激情五月综合 | 欧美国产一区二区 | 久久一久久 | 色综合久久中文综合久久牛 | 久久丝袜视频 | 91丝袜美腿| 日韩最新在线 | 久久精品久久精品久久39 | 亚洲一区尤物 | 久久久久久久久久久久久久免费看 | 色吊丝av中文字幕 | 麻豆国产露脸在线观看 | 国产成人久久久77777 | 日本女人在线观看 | 久久艹欧美 | 日韩午夜一级片 | 精品久久久久久亚洲综合网站 | 国产麻豆剧传媒免费观看 | 成人黄色影片在线 | 天天干天天干天天干天天干天天干天天干 | 中文字幕乱在线伦视频中文字幕乱码在线 | 日本深夜福利视频 | 91看片淫黄大片一级在线观看 | 亚洲妇女av | 国产黄色精品在线 | 久草在线视频国产 | 国产亚洲精品久久久久久电影 | 在线看福利av| 久久一本综合 | 国产欧美精品在线观看 | 国产亚洲免费的视频看 | 天天色影院| 91亚洲精品在线 | 欧美久久99| 欧美日韩高清一区二区三区 | 911亚洲精品第一 | 国产96在线视频 | 欧美视频不卡 | 色.com| 一区在线观看 | 亚洲码国产日韩欧美高潮在线播放 | 久久久国产在线视频 | 国产精品久免费的黄网站 | 午夜视频在线观看一区二区 | 中文在线免费观看 | 草久久久 | av黄免费看| 一级免费黄视频 | 丁香婷婷激情网 | 国产aa免费视频 | 成人黄色大片网站 | 免费在线色视频 | 最近免费在线观看 | 亚洲精品小视频在线观看 | 91精品国产乱码久久桃 | 欧美黑吊大战白妞欧美 | 国产精品va在线播放 | 精品福利国产 | 在线观看视频你懂得 | 91激情视频在线播放 | 在线视频专区 | 人人射人人插 | 免费在线看成人av | 欧美成人在线免费 | 成年人在线免费看视频 | 最近更新的中文字幕 | 成人久久免费 | 久久草| 免费精品| 成人国产综合 | 国产精品第一页在线 | 国产黄在线 | 狠狠操操操 | 三级黄色网址 | 精品嫩模福利一区二区蜜臀 | 99久久精品一区二区成人 | 亚洲国产成人精品电影在线观看 | 亚洲一区免费在线 | 91亚洲精品久久久蜜桃借种 | 国产精品久久久久久久午夜 | 国产精品久久久久久久久久免费看 | 国产综合91| 久久久久久免费视频 | 成人欧美一区二区三区黑人麻豆 | 在线看片中文字幕 | 97国产在线观看 | 免费视频一区二区 | 亚洲精品视频免费在线观看 | 日韩精品视频免费专区在线播放 | 黄a网| 日韩电影一区二区三区在线观看 | 国产高清在线一区 | 欧美了一区在线观看 | 国产精品精品久久久久久 | 欧美成人在线免费观看 | 日日夜夜91 | wwwww.国产| 91av网站在线观看 | 高清在线一区 | av成人在线观看 | 国产高清精品在线观看 | 久久手机精品视频 | 在线观看资源 | 亚洲精品99久久久久中文字幕 | 最新国产一区二区三区 | 亚洲欧洲国产视频 | 久久最新网址 | 操综合| 国产91粉嫩白浆在线观看 | 伊人电影天堂 | 天堂av在线7 | 四虎影视成人精品国库在线观看 | 欧美日韩aaaa | av在线在线 | 黄色特一级片 | 国产美女网站视频 | 天天干天天搞天天射 | 久久精品视频4 | 一级片视频免费观看 | 日韩欧美精品在线观看视频 | 久久久久久久99精品免费观看 | 亚洲国产高清在线观看视频 | 欧美网站黄色 | 1024手机在线看 | 伊人网av| 欧美日韩啪啪 | 国产第一页精品 | 免费网站色 | 97在线看 | 久久九九影视网 | 最新婷婷色| 亚洲高清久久久 | 一区二区观看 | 五月天激情综合网 | 亚洲精品www久久久久久 | 国产日产欧美在线观看 | 久久综合中文字幕 | 97精品欧美91久久久久久 | 国产在线观看地址 | 97精品一区二区三区 | 天天操天天插 | 91激情视频在线播放 | 美女网站视频色 | 免费av观看 | 成人在线免费观看视视频 | 国产主播99 | 久久蜜臀av | 国产亚洲欧美日韩高清 | 久久 精品一区 | 日日综合 | 在线观看亚洲免费视频 | 九热在线 | 免费看国产曰批40分钟 | 国产激情电影综合在线看 | 九九热中文字幕 | 国产免费不卡 | 国产在线探花 | 久草在线免费资源站 | 亚洲精品视频久久 | 日本一区二区三区视频在线播放 | 日韩系列在线观看 | 国产精品婷婷 | 日本 在线 视频 中文 有码 | 亚洲综合涩 | 婷婷丁香六月天 | 91精选| 在线观看www.| 国产一区免费在线观看 | 91麻豆精品国产91久久久使用方法 | www.97色.com | 蜜桃av人人夜夜澡人人爽 | 最新精品国产 | 亚洲一区精品二人人爽久久 | 日韩欧美在线一区 | 国产精品av久久久久久无 | 久久久久久久久久影院 | 日日夜夜婷婷 | 99爱国产精品 | 激情图片区 | 手机在线看a | 国产在线精品区 | 亚洲va韩国va欧美va精四季 | 国产伦理精品一区二区 | 成人a视频在线观看 | av电影一区二区 | 精品人人人人 | 国产91亚洲精品 | 国内精品久久久久影院优 | 黄网站色视频免费观看 | 一区二区精品在线视频 | 天天夜夜亚洲 | 视频一区二区三区视频 | 日韩av免费观看网站 | 久久综合99| 欧美视频xxx| 色先锋av资源中文字幕 | 国产亚洲成人精品 | 韩国三级av在线 | 中文字幕婷婷 | 91精品区| 最近中文字幕 | 国产精品久久久久毛片大屁完整版 | 青青草久草在线 | 午夜精品久久久久久中宇69 | 在线黄色毛片 | 最新久久久 | 在线免费看黄色 | 日韩视频1 | 亚洲精品中文在线观看 | 亚洲精品视频在线看 | 四虎影视久久久 | www免费看片com| 最新日韩中文字幕 | 91在线亚洲 | 综合久久网站 | 精品国产一区二区三区免费 | 91中文字幕网 | 久久老司机精品视频 | 久草视频99| 一区二区视频电影在线观看 | 主播av在线| 999久久久久久久久 69av视频在线观看 | 久久一区国产 | 亚洲国产97在线精品一区 | 日韩av一区二区三区 | 香蕉久久国产 | 亚洲视频h| 久久精品超碰 | 在线观看免费福利 | 久久久久久久久电影 | 高清色免费| 久久久久久国产一区二区三区 | 91自拍视频在线观看 | 黄色福利网站 | 丰满少妇在线 | 波多野结衣在线观看视频 | 一区二区三区日韩视频在线观看 | www.狠狠色 | 91福利在线观看 | 91字幕 | 国产69精品久久久久久久久久 | 亚洲男男gaygayxxxgv | 天堂在线v| 91一区二区三区久久久久国产乱 | 亚洲免费av片| .国产精品成人自产拍在线观看6 | 9在线观看免费 | 手机看国产毛片 | www.色午夜,com | 亚洲视频一区二区三区在线观看 | 欧美精品免费一区二区 | 中文字幕在线看视频 | 亚洲精品网站 | 婷婷在线网 | 国产激情小视频在线观看 | 少妇bbw撒尿 | av大片免费看 | 亚洲免费观看视频 | 五月天久久综合网 | www色片| 女人18精品一区二区三区 | 久久精品国产久精国产 | 99视频导航 | 久久a视频 | 国产一级免费观看 | 91免费高清观看 | 欧美日韩精品影院 | 热九九精品 | 色综合夜色一区 | 韩国av电影在线观看 | 日韩三级视频在线观看 | 99re中文字幕 | 永久免费观看视频 | 最近中文字幕视频网 | 国产欧美精品一区二区三区 | 久久中文精品视频 | 97超碰在线视 | 悠悠av资源片 | 麻豆久久一区二区 | 国产成人性色生活片 | 免费观看v片在线观看 | 欧美日韩国产综合一区二区 | 色 免费观看 | 黄色一级大片在线免费看国产一 | 国产精品入口久久 | 免费电影播放 | 久久艹久久 | 99热在线观看免费 | 亚洲精品在线视频 | 狠狠操天天干 | 97精品国产| 91精品国自产在线观看 | 免费一级片久久 | 成人免费视频网站 | 久久免费在线视频 | 国产黄色精品在线 | 操操综合| 国产美女视频免费观看的网站 | 中文字幕在线观看国产 | 在线免费黄色av | 免费婷婷 | 99精品视频在线观看视频 | 人人爱在线视频 | 成人avav| 91av在线免费视频 | 成+人+色综合 | 日韩手机视频 | 日本乱码在线 | www黄色| 天天操夜夜看 | 97av视频在线观看 | 欧美在线1| 久久天天操| 国产亚洲精品日韩在线tv黄 | 国产精品一区免费看8c0m | 在线观看色网 | 精品五月天 | 97人人超碰在线 | 91大神在线观看视频 | 成人va天堂 | 国产午夜精品一区二区三区四区 | 精品国产_亚洲人成在线 | 超碰在线人人 | 欧美成人一二区 | 亚洲精品国偷自产在线91正片 | 亚洲在线免费视频 | 超碰成人免费电影 | 波多野结衣在线观看视频 | 亚洲综合色丁香婷婷六月图片 | 国产成人久久av免费高清密臂 | 国产护士hd高朝护士1 | 五月婷婷综合久久 | 亚洲伊人天堂 | 激情丁香5月 | 日韩免费高清在线 | av电影在线免费观看 | 91在线入口 | 亚洲综合婷婷 | 日韩在线视频一区二区三区 | 探花系列在线 | 欧美一级视频免费 | 99理论片 | 国产成人三级三级三级97 | 夜夜高潮夜夜爽国产伦精品 | 天天色天天操天天爽 | 久久九九国产精品 | 久久香蕉国产精品麻豆粉嫩av | 正在播放国产91 | 中文字幕在线观看播放 | 久久久国产精品视频 | 久久精品99精品国产香蕉 | 日韩一级电影在线观看 | 超碰99在线 | 午夜国产一区二区三区四区 | 免费三级大片 | 久久综合色8888 | 国精产品一二三线999 | 日韩一区二区在线免费观看 | 日本在线视频网址 | 97视频在线观看成人 | www夜夜操com | 99精品在线视频播放 | 精品国产_亚洲人成在线 | 91九色成人 | 欧美精品一二 | 亚洲精品视频免费 | 91在线视频在线观看 | av网站免费线看精品 | 欧美日韩二区在线 | 欧美日韩在线观看一区二区三区 | 国产精品永久免费 | 日日婷婷夜日日天干 | 91人人爽久久涩噜噜噜 | 久久久久久久久免费视频 | 菠萝菠萝在线精品视频 | 韩日精品在线 | 天堂激情网 | 日韩精品一区二区在线观看 | 成人91免费视频 | 午夜精品导航 | 8x成人免费视频 | av福利网址导航 | 午夜精品久久久久久久久久久 | 亚洲成av人片在线观看无 | 久草免费看 | 国产精品久久久久久久久久久久午夜 | 久久综合九色综合网站 | 亚洲在线视频免费 | 日批视频在线 | 欧美一二三专区 | 99精品色 | 日本老少交 | 黄色www在线观看 | 成人黄色av免费在线观看 | 精品视频免费看 | 国产精品免费久久久 | 日韩精品在线视频免费观看 | 天天插天天 | 永久av免费在线观看 | 女人18精品一区二区三区 | 精品久操 | 欧美夫妻性生活电影 | 久久视频这里有久久精品视频11 | 婷色在线 | 经典三级一区 | 日韩久久精品一区二区三区下载 | 亚洲伊人天堂 | 国产精品一区二区精品视频免费看 | 蜜桃视频成人在线观看 | 日韩欧美国产免费播放 | 一区二区三区手机在线观看 | 91精品国 | 欧美人交a欧美精品 | 免费观看黄色12片一级视频 | 久草网视频在线观看 | 亚洲精品午夜久久久久久久 | 国产亚洲日本 | 国产亚洲永久域名 | 久久不射影院 | 亚洲国产成人久久 | 欧美日韩免费看 | 高潮毛片无遮挡高清免费 | 日韩中文字幕免费在线观看 | 日本99精品 | 狠狠色网 | 制服丝袜在线91 | 手机看片1042 | www.夜夜操.com| 日本久久片 | 五月天天在线 | 精品99在线观看 | 最新日韩精品 | 日本系列中文字幕 | 亚洲电影av在线 | 国产成人在线综合 | 成人免费亚洲 | 久久夜色精品国产欧美一区麻豆 | 久久久久久激情 | 精品国产乱码久久久久久久 | 国产91丝袜在线播放动漫 | 国产福利91精品一区二区三区 | 在线免费高清一区二区三区 | 日韩成人精品在线观看 | 香蕉影院在线播放 | 天堂av观看 | 99亚洲国产 | 日韩在线观看你懂的 | 国产精品麻豆欧美日韩ww | 日韩毛片精品 | 欧美亚洲国产一卡 | 久草视频免费观 | 在线 欧美 日韩 | 五月综合色 | 午夜精品区 | 久久夜靖品 | 高清不卡免费视频 | 久久国产欧美日韩精品 | 日韩在线影视 | 免费视频你懂的 | 久久久久久国产精品久久 | 日韩欧美视频在线播放 | 首页国产精品 | 国产精品18久久久 | 亚洲精品www | 亚洲污视频 | 九九热精品视频在线观看 | 天天爽天天射 | 国产日本三级 | 97中文字幕| 亚洲女人天堂成人av在线 | 麻花豆传媒mv在线观看 | 91在线观看视频网站 | 欧美激情精品久久久久久免费 | 国精产品999国精产品岳 | 精品999久久久 | 久久国产欧美日韩 | 婷五月激情 | 国产午夜不卡 | 干综合网 | 日韩中文在线播放 | 麻豆免费看片 | 久久精品导航 | av黄色免费看 | 五月香婷 | www.久久爱.cn | 久久免费视频8 | 日韩在线观看你懂的 | 免费一级特黄录像 | 超级碰碰免费视频 | 91精品日韩| 国产这里只有精品 | 97福利社| 日本一区二区三区免费观看 | 亚洲午夜大片 | 中文字幕在线观看第一页 | 日韩一区二区三区高清在线观看 | 国产99一区二区 | 国产精品久久久久久久久久 | 亚洲成人精品久久 | 国产黄色片免费观看 | 国产成人黄色av | 日韩精品久久久久久中文字幕8 | 成年人在线观看网站 | 亚洲乱码精品久久久 | 国产91成人在在线播放 | 国产麻豆电影在线观看 | 国产精品完整版 | 国产高清视频免费 | 久久久久看片 | 国产成人精品999在线观看 | www.久久免费| 久久伊人精品一区二区三区 | 日韩一区二区三区高清免费看看 | 911国产| 日本久久久久久科技有限公司 | 久久成人国产精品免费软件 | 成年人国产精品 | 国产视频一| 91中文字幕永久在线 | 色综合咪咪久久网 | 亚洲成人免费 | 久久久久久久久久国产精品 | av在线亚洲天堂 | 蜜臀aⅴ国产精品久久久国产 | 日韩欧美一区二区三区视频 | 国产日韩精品一区二区在线观看播放 | 又湿又紧又大又爽a视频国产 | 99热精品久久 | 日韩一区正在播放 | 国产精品自在线拍国产 | 成人久久18免费网站 | 中文字幕亚洲高清 | 日韩在线观看中文字幕 | 国产亚洲精品久久19p | 91久久奴性调教 | 91精品国产综合久久福利 | 一本色道久久综合亚洲二区三区 | 人人干天天射 | 97视频一区 | 久久精品爱爱视频 | 亚洲成av人片在线观看 | 一区二区视频欧美 | 色中色亚洲 | 欧美精品首页 | a级片久久久 | 欧美午夜一区二区福利视频 | 精品国产伦一区二区三区观看体验 | 亚洲天天看 | 米奇四色影视 | 久久免费看毛片 | 国产精品丝袜久久久久久久不卡 | 中国一级片免费看 | 日韩电影在线观看一区二区 | 一区二区三区在线观看免费视频 | 午夜视频在线观看一区二区三区 | 香蕉在线影院 | 色多多污污在线观看 | 色www.| 婷婷五情天综123 | 日韩在线视频线视频免费网站 | 午夜久久福利 | 国产91精品高清一区二区三区 | 久久免费久久 | 色综合久久悠悠 | 精品视频9999 | 国产人在线成免费视频 | 天天曰天天干 | 亚洲精品自在在线观看 | 国产真实精品久久二三区 | 91在线免费观看国产 | 欧美analxxxx| 成片人卡1卡2卡3手机免费看 | 91在线蜜桃臀 | 婷婷色视频 | 亚洲天天综合网 | 99热九九这里只有精品10 | 国产精品一区二区中文字幕 | 色视频在线观看免费 | 18国产精品福利片久久婷 | 欧美在线观看视频 | 成人性生活大片 | 色婷婷综合成人av | 伊人五月综合 | 九九色视频| 国产手机在线播放 | 日韩在线观看第一页 | 国产99久久久精品视频 | 亚洲精品啊啊啊 | 成人在线视频免费看 | 黄在线免费看 | 国产精品久久嫩一区二区免费 | 27xxoo无遮挡动态视频 | 超碰在线公开免费 | 日韩在线观看一区二区 | 久久久黄色av | 水蜜桃亚洲一二三四在线 | 国产精品日韩 | 免费三级a | 国产五月色婷婷六月丁香视频 | 国产精品毛片久久久久久久久久99999999 | 免费av网站观看 | av在线网站免费观看 | 日韩二级毛片 | 国语精品免费视频 | 99久热在线精品视频观看 | 五月天欧美精品 | 91在线视频免费91 | 国产精品精品久久久久久 | 国产99久久久久 | 一区二区视频播放 | 91在线成人| av在线免费观看不卡 | www.97色.com| av中文字幕av | 人人插人人爱 | 久久夜色精品国产欧美乱 | 国产尤物一区二区三区 | 天天干天天做天天爱 | 99久久99视频 | 午夜影院三级 | 国产在线a免费观看 | 国产精品久久久久久久久久新婚 | 黄色av一区 | 中字幕视频在线永久在线观看免费 | 97成人精品 | 日韩av电影免费在线观看 | 丁香婷婷激情 | 久草精品视频 | 国产精品永久免费视频 | 丁香六月婷婷激情 | 久久午夜鲁丝片 | 国产精品一区久久久久 | 亚洲春色奇米影视 | 九七在线视频 | 日日天天av | 黄色午夜 | 久久视频在线观看中文字幕 | 91桃花视频 | 91av在 | 日韩最新中文字幕 | 中文字幕免费看 | 97精品国产一二三产区 | 五月婷婷视频在线 | 激情视频91 | 成人小电影在线看 | 玖玖在线观看视频 | 午夜国产一区 | 精品1区2区 | 三级黄色理论片 | 日韩在线视 | 99视频精品视频高清免费 | 99电影456麻豆| 久久成人综合视频 | 蜜桃视频在线观看一区 | 欧美极品少妇xbxb性爽爽视频 | 懂色av懂色av粉嫩av分享吧 | 国语对白少妇爽91 | 成人综合婷婷国产精品久久免费 | 国产一级片视频 | 国产一区二区综合 | 丁香九月激情综合 | 免费av网址大全 | 天天操天天操一操 | 久久久久免费看 | 黄色成人av | 2018亚洲男人天堂 | 国产精品一区二区在线免费观看 | 亚洲精品午夜国产va久久成人 | 五月婷婷中文 | 三级黄色免费片 | 日韩理论片在线观看 | 午夜精品中文字幕 | 久草免费在线观看 | 麻豆精品传媒视频 | 国产手机在线观看 | 99国产视频在线 | 在线观看一二三区 | 亚洲美女精品 | 夜夜澡人模人人添人人看 | 免费在线观看av网址 | 久久一视频 | avcom在线| 三级黄色免费 | 成年在线观看 | 日韩欧美区 | 欧美一区二区三区免费观看 | 99c视频在线 | 久久精品爱爱视频 | 久久久久久久久久久高潮一区二区 | 亚洲日本va在线观看 | 中文字幕一区在线 | 国产大片黄色 | 一区二区三区电影 | 国产老熟 | 亚洲五月六月 | 五月婷婷视频在线观看 | 国内精品视频久久 | 久草国产在线 | av电影在线观看完整版一区二区 | 免费网址你懂的 | 狠狠狠狠狠狠天天爱 | 永久免费观看视频 | 亚洲黄色影院 | 激情综合电影网 | 色在线免费观看 | 91av超碰 | 日韩欧美国产免费播放 | 国产日本在线观看 | 亚洲v欧美v国产v在线观看 | 日韩特级毛片 | 色偷偷888欧美精品久久久 | 美女免费视频一区二区 | 久久久免费少妇 | 亚洲成人黄色网址 | 狠狠躁夜夜躁人人爽超碰97香蕉 | 欧美大荫蒂xxx | av超碰在线| 国产一二三精品 | 国产看片网站 | 国产91大片 | 国产精品美女免费看 | 91桃色视频| 91福利社在线观看 | 99视频一区 | 色91在线视频 | 亚州精品天堂中文字幕 | 在线观看色网 | 亚洲精品乱码久久久久v最新版 | 超碰在线最新网址 | 成人视屏免费看 | 麻豆va一区二区三区久久浪 | 黄色成人在线观看 | 免费在线一区二区三区 | 日韩在线精品一区 | 91亚洲精品乱码久久久久久蜜桃 | 久久久久亚洲国产精品 | 丁香六月婷婷开心婷婷网 | 天天草天天干天天射 | 日韩免费在线观看视频 | 成片人卡1卡2卡3手机免费看 | 亚洲美女视频在线 | 青青久草在线 | 在线观看亚洲免费视频 | 激情图片区 | 91精品国产92久久久久 | 黄网在线免费观看 | 欧美午夜剧场 | 视频在线观看99 | 国产精品一区二区三区免费看 | 久久99网站| 欧美在线观看小视频 | 99久久国产免费,99久久国产免费大片 | 黄色成人免费电影 | 中文字幕在线专区 | 丁香五月亚洲综合在线 | 亚洲成人免费在线 | 在线视频 日韩 | 日日弄天天弄美女bbbb | 在线观看色网 | 99久久精品国产一区 | 国产高清一级 | 久久精品一区二区三区国产主播 | 在线观看中文字幕dvd播放 | 久久久久免费看 | 欧美国产91 | 三级av网站 | 天堂中文在线播放 | 国产精品手机视频 | 国产亚洲精品xxoo | 久久亚洲区| 中午字幕在线 | 看片一区二区三区 | 九九久| 三级av在线免费观看 | 操夜夜操 | 精品一区二区在线免费观看 | 激情婷婷综合 |