日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

不同行业的软件安全标准介绍和对比

發(fā)布時間:2023/12/20 编程问答 44 豆豆
生活随笔 收集整理的這篇文章主要介紹了 不同行业的软件安全标准介绍和对比 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

轉(zhuǎn)載于知乎Jessie Yang :https://zhuanlan.zhihu.com/p/112735361


引言

隨著工業(yè)各個領域的系統(tǒng)復雜度和軟件功能的快速發(fā)展,在每個行業(yè)都有相應的軟件開發(fā)保證標準,來保證所研制的軟件達到相應的安全級別。那么各個行業(yè)的軟件安全標準之間有什么共性和差別呢?

這里簡要介紹六種不同的軟件開發(fā)保證標準,包括民航(DO-178C)、汽車(ISO 26262) 、航天(ECSS-Q-ST-80C)、工業(yè)自動化(IEC61508)、核工業(yè)(IEC 60880 ) 和軌道(EN 50128),并且比較每個標準在規(guī)定的目標、活動、方法和工具上的異同。

各行業(yè)安全標準概述

我們先從工業(yè)通用標準 IEC61508說起—

  • 創(chuàng)始祖師 IEC61508

1985年: IEC成立了一個PESs 工作組,試圖對安全相關(guān)軟件設立一個國際安全標準1998-2000: IEC 61508 Part 1~7 發(fā)布

2002年: 開始更新改進標準

2005年: IEC61508 - 0 發(fā)布 (Part 0: Functional safety and IEC 61508)

2010年: IEC 61508 Edition 2.0 發(fā)布

工作組的本意是建立一個基礎模板 — 僅僅用于設定起草各行業(yè)標準的規(guī)則。但實際上,現(xiàn)在IEC 61508 往往被直接用于工業(yè)領域。之后,各分支行業(yè)的具體標準從IEC 61508 派生:

各分支行業(yè)的具體標準從IEC 61508 派生

過程工業(yè),機械(IEC 61511:2003,62061:2005),電力驅(qū)動系統(tǒng),可編程控制器(IEC 61800:1997,61131-6(CDV)),通信網(wǎng)絡(61784-3:2007) ,爆炸性環(huán)境,檢測,測量,設備(EN 60079,50271,5042),醫(yī)療設備(IEC 60601:2005),鐵路(EN 50126,50128,50129),汽車(ISO / DIS 26262),其中最接近的一個是過程工業(yè)的IEC 61511,因為大多數(shù)IEC 61508工作組成員來自該領域。

注:IEC 61508對某些標準的派生關(guān)系受到爭議,因為某些“行業(yè)特定”標準(例如 IEC 61513 核工業(yè))早于IEC 61508發(fā)布,并且開發(fā)出非常不同的安全方法。

值得注意的是,盡管系出同門,但各行業(yè)在標準應用時,與原有運行標準和整體系統(tǒng)方法往往有沖突。比如航空的DO-178C與IEC 61508有很大差異

  • 核能領域

IAEA(國際原子能機構(gòu))于1957年在聯(lián)合國成立,旨在促進和支持安全利用核技術(shù)促進和平應用,目前有151個成員國。

已有標準: “安全導則”[IAEA NS-G-1.3](2002) 為“核電廠安全重要的儀器與控制(I&C)系統(tǒng)”提供了一般指導,介紹了這些系統(tǒng)的分類,安全要求和設計。它結(jié)合和修訂了1980年發(fā)布的早期指南(50-SG-D3:保護系統(tǒng)和相關(guān)功能)和1984(50-SG-D8:安全相關(guān)儀器和控制系統(tǒng))。

根據(jù)與國際原子能機構(gòu)的協(xié)議,IEC 在技術(shù)細節(jié)方面制定了實施國際原子能機構(gòu)安全原則的標準。自1980年代以來,IEC已經(jīng)定制了以下設計和驗證基于計算機的系統(tǒng)的方法,以滿足核電廠的需求:

IEC 61226- 核電廠I&C(儀器和控制)功能分類方法。

IEC 61513-為用于執(zhí)行安全重要功能的I&C系統(tǒng)提供一般指導,并考慮到其分類。

IEC 60880-對核電站最高級I&C系統(tǒng)的軟件提出要求,以實現(xiàn)高可靠性的軟件

  • 民用航空領域

1980年,無線電航空技術(shù)委員會(現(xiàn)在的RTCA)成立了一個開發(fā)和記錄軟件實踐委員會,以支持開發(fā)基于軟件的機載系統(tǒng)和設備。 歐洲民用航空電子組織(現(xiàn)在的EUROCAE)此前已經(jīng)成立了一個工作組來制作類似的文件,并于1980年10月準備出版文件ED-35“軟件建議書” 機載系統(tǒng)的實踐與文獻。EUROCAE決定停止編輯自己的文件,并加入RTCA來制定一套通用的指南。 1982年出版了名為ED-12 / DO-178“機載系統(tǒng)和設備認證中的軟件注意事項”的聯(lián)合文件,1985年修訂版A,1992年修訂版B。2012年發(fā)布 ED-12 / DO-178C,包括特定技術(shù)或方法的指導原則。

在修訂DO-178BB的開發(fā)過程中,委員會發(fā)現(xiàn),系統(tǒng)級信息需要作為軟件開發(fā)過程的輸入。 許多系統(tǒng)級決策對于飛機系統(tǒng)的安全和功能方面至關(guān)重要,有必要將與這些決策有關(guān)的過程和結(jié)果進行監(jiān)管。因此,SAE(汽車工程師協(xié)會)和EUROCAE在1995年出版了ED-79 / ARP-4754“高度集成或復雜的飛機系統(tǒng)的認證注意事項”。 它涉及實現(xiàn)飛機級功能的系統(tǒng)總體生命周期。 它重點關(guān)注對系統(tǒng)建立安全性的問題,而不覆蓋各系統(tǒng)、軟件和硬件的具體設計流程。2010年,委員會又進一步發(fā)布了ED-79 / ARP-4754A。

2000年4月,EUROCAE / RTCA又發(fā)布了文件**ED-80 / DO-254“機載電子硬件設計保證指導”**來解決復雜硬件設計方面的具體要求。

在系統(tǒng)層面,同時還有一個重要的 EUROCAE / SAE文件ED-135 / ARP-4761詳細說明了安全評估過程的方法。

民航領域的主要安全標準

  • 航天領域

航天領域的監(jiān)管歷史可以追溯到上世紀更早期。聯(lián)合國COPUOS(和平利用外層空間委員會)于1958年成立,該委員會制定了一系列條約和原則,特別確定了各國本地發(fā)射造成的潛在損害的責任。因此,大多數(shù)國家已經(jīng)制定了適用于太空發(fā)射活動的規(guī)則和法律授權(quán)方案

除了法律制度之外,航天業(yè)已經(jīng)認識到建立和實施空間產(chǎn)品和方案的標準的價值和需要。例如在歐洲,歐空局標準化體系PSS(程序,規(guī)范和標準)逐步闡述之后,歐洲航天局與歐洲航天機構(gòu)和行業(yè)在九十年代初建立了歐洲空間標準化組織(ECSS)ECSS,以制定和維護單一、一致、公認的共同標準體系。

ECSS標準不具有法律強制性,可以根據(jù)具體情況的協(xié)議采用和改編。其實現(xiàn)是通過涉及所有利益攸關(guān)方的合作工作來闡述的。
ECSS系列組織為三大分支(M:空間項目管理; Q:空間產(chǎn)品保證; E:空間工程)。
每個分支都有一級標準、可能補充附加文件(更詳細的標準或指導,以應用一級標準,或提供額外的非規(guī)范性信息的手冊)。

  • 汽車領域

汽車行業(yè)最知名、應用最廣泛的安全標準當屬 SAE ISO 26262,ISO 26262:(Road vehicles – Functional Safety)是在IEC 61508 標準的基礎上,以道路車輛電子及電氣系統(tǒng)應用產(chǎn)業(yè)的角度,具體規(guī)范汽車電子安全系統(tǒng)從開發(fā)到使用的安全生命周期的技術(shù)與管理要求。

近年來,隨著自動駕駛、智能網(wǎng)聯(lián)的快速發(fā)展,ISO PAS 21448、21434 、UL4600 等相關(guān)標準也在制定中。

  • 軌道領域

軌道行業(yè)的國際安全標準主要由CENELEC是歐洲鐵路電工設備標準化委員會(替代國家標準)發(fā)布,CENELEC與IEC合作,其標準通常被接受為全球標準。目前CENELEC/IEC標準主要包括:

軌道行業(yè)主要安全標準

?EN 50126 :1999 (IEC 62278) **(Part2 :2017)**鐵路控制和保護系統(tǒng)的RAMS(可靠性,可用性,可維護性和安全性)規(guī)范和演示

?EN 50129:2003 (IEC 62280) 鐵路控制和保護系統(tǒng)的安全案例

?EN 50128:2011 (IEC 62279) 鐵路控制和保護系統(tǒng)軟件

EN 50126 和 EN 50129 關(guān)注系統(tǒng)層需求 , EN 50128 關(guān)注軟件層需求

預告:下一篇講繼續(xù)介紹基于以上標準,各個行業(yè)的認證、鑒定、信用批準,以及各個標準的技術(shù)比較。

【參考文獻目錄】

  • Emmanuel Ledinot(1), Jean-Marc Astruc(2), Jean-Paul Blanquart(3), A cross-domain comparison of software development assurance
  • P. Baufreton1, JP. Blanquart2, JL. Boulanger3,Multi-domain comparison of safety standards,2010

  • 引言

    上一篇文章簡要介紹了各個行業(yè)主要的安全標準,這一篇繼續(xù)分享— 基于各行業(yè)的安全標準,怎樣進行軟件認證、工具鑒定、信用批準等方面。

    首先,我們來看兩個概念----

    認證 Certification Vs. 評估 Assessment

    談到安全標準,我們就避不開兩個基本概念:認證和評估。

    • 評估 Assessment: 為某個實體(個人、組織或人工產(chǎn)品)授予某置信水平的一系列活動。其有效性依賴于: 項目、參與者、使用情況、時間線。
    • 認證 Certification: 評估申請人向認證機構(gòu)證明其工程過程,表明制造商通過遵守安全標準來確保對安全目標的監(jiān)管。認證旨在驗證在一個領域(如能源或運輸)提供安全關(guān)鍵產(chǎn)品或服務的工業(yè)行為者確實提供了安全的產(chǎn)品或服務。 認證涉及申請人,標準條例,管理局和必須獨立或部分獨立于申請人的評估機構(gòu)

    大多情況下,這些標準條例是由國際組織成員國設立的,成員國同意建立共同的規(guī)則來防止共同的風險。比如: ICAO在民航,IAEA核工業(yè),聯(lián)合國在航天工業(yè)。某些情況下,標準條例在國家級生效,然后在國際層面上解決跨境互操作性問題。 比如鐵路行業(yè),歐洲成員國目前正在執(zhí)行標準的統(tǒng)一進程 — 相互接受其國家證書。

    *注意:工業(yè)領域的認證并不會導致責任從申請人轉(zhuǎn)移到認證機構(gòu)。 在發(fā)生嚴重事故的情況下,涉及的制造商或服務提供者是唯一可以起訴的實體。*

    此外,還有一個概念也經(jīng)常被提及,那就是鑒定 Qualification:

    鑒定針對**特定項目中的特定任務,**是為一個實體(可以是一個組織、一個人、一個工具)提供置信水平的一系列活動。

    例如,用鑒定來確保通過使用工具自動化的軟件生命周期過程將導致與手動執(zhí)行過程相同或更高質(zhì)量的輸出。

    目前,無論是航空、軌道、汽車等領域,還是工業(yè)領域,都對工具使用有著特別的要求,如果通過使用工具,消除或者自動化了部分人工工作,都需要根據(jù)所涉及的軟件安全級別,對所使用的工具進行相應等級的工具鑒定。這實際上是把軟件開發(fā)人員的部分工作轉(zhuǎn)移到了工具開發(fā)商那邊。

    各行業(yè)對評估和認證的信用批準

    根據(jù)各行業(yè)的不同情況,管理局和評估機構(gòu)可能是同一機構(gòu)(例如,民用航空局的FAA和EASA),也可能只有頒發(fā)證書的機構(gòu),但沒有與申請人(例如工業(yè)自動化和航天業(yè))獨立的評估機構(gòu)的情況。

    申請人和評估機構(gòu)之間的利益無關(guān),核工業(yè)(IRSN)、鐵路(ERA,EPSF,STRM-TG)和航空(EASA-FAA)認證的關(guān)鍵要求。

    • 航空

    由FAA或EASA等獨立機構(gòu)負責飛機及其嵌入式系統(tǒng)的安全認證。

    認證通常適用于飛機或發(fā)動機類型

    認證機構(gòu)將軟件視為安裝在認證飛機或發(fā)動機中的機載系統(tǒng)或設備的一部分; 也就是說,認證機構(gòu)不會將該軟件作為唯一的獨立產(chǎn)品。 目前,計算機硬件和軟件必須做為每次安裝的一個“系統(tǒng)”被批準。

    • 航天

    適用于歐洲航天領域的一系列標準,由ECSS、歐洲航天標準化合作,歐洲航天局,國家航天機構(gòu)和歐洲工業(yè)協(xié)會為發(fā)展和維持共同目標而合作制定。

    ECSS標準不是法律強制的,而是通過合同逐案提出、采用、修改。這并不意味著航天業(yè)不會以更嚴格的方式進行認證 — 大多數(shù)國家對于在其領土上發(fā)射的航天設備,都制定了與發(fā)射裝置、航天器、發(fā)射程序有關(guān)的特定法律規(guī)則,以及相應的許可證制度。

    • 汽車領域

    SAE ISO 26262提供了一系列要求,即所謂的確認措施,以確保對E/E方面的安全性進行適當?shù)脑u估。

    執(zhí)行確認措施的行為人員應具有與負責發(fā)展和釋放生產(chǎn)的人員的最低程度的獨立性。 **ASIL(汽車安全完整性等級)**越高,所需的獨立性就越高。 值得注意的是,所需的最高獨立性, 可能允許在同一家公司內(nèi)

    確認措施包括:

    **安全評估,**以驗證關(guān)鍵的可交付成果,

    安全審計,以驗證過程的適當性,

    評估整個安全項目的安全評估。

    • 軌道交通

    主要認證標準是法律要求的歐洲鐵路標準 CENELEC 5012x系列標準, 它們是歐盟鐵路行業(yè)的“實踐守則”,也是鐵路安全相關(guān)應用審批的先決條件和促進市場準入的國際標準,在歐洲各國具有法律的約束力。

    認證和鑒定根據(jù)符合特定標準和/或規(guī)范要求確定。可能需要第三方認證,或進行自我評估。

    比較成熟的評估體系包括:英國CASS安全評估框架、德國TUV評估體系等,他們主要以EN鐵路標準為基準,依托第三方評估機構(gòu)對已有線路和在建項目的進行安全性論證。

    • 工業(yè)自動化

    標準IEC 61508 不提供任何類型的認證

    歐洲機械業(yè)指令(EMD)要求完成具有CE標識的認證 — 由制造商完成自我認證。

    • 核工業(yè)

    所有使用核能的國家都設立了安全管理局,以控制其使用,保護人民和環(huán)境免受輻射的有害影響。比如在法國,安全管理局是ASN大學, 其技術(shù)支持是無線電保護和核保安學院(IRSN)。核電廠不是去提交“認證”申請,而是通過授權(quán)運營。 根據(jù)ASN的提案,授權(quán)必須通過政府的正式法令。

    一張圖總結(jié):

    各行業(yè)的申請人、評估機構(gòu)與認證機構(gòu)

    我們可以看到,通常在航空、軌道、航天、核能領域,都要求由獨立的第三方機構(gòu)進行認證,而自動化、汽車領域,并沒有強制要求第三方認證(近年來,汽車行業(yè)隨著自動駕駛的快速發(fā)展,安全性要求進一步提升,已經(jīng)有改變的趨勢)。

    不同行業(yè),評估和認證獨立性要求嚴格程度遞增

    預告: 不小心寫太長,下一篇繼續(xù)介紹各行業(yè)標準的技術(shù)比較。

    【參考文獻目錄】

  • Emmanuel Ledinot(1), Jean-Marc Astruc(2), Jean-Paul Blanquart(3), A cross-domain comparison of software development assurance
  • P. Baufreton1, JP. Blanquart2, JL. Boulanger3,Multi-domain comparison of safety standards,2010

  • 引言

    上兩篇文章簡要總結(jié)了不同行業(yè)的軟件安全標準概況和認證、取證,這篇接著來說說各個標準在技術(shù)上的具體差別。

    Jessie Yang:不同行業(yè)的軟件安全標準介紹和對比 (上篇)9 贊同 · 0 評論文章

    Jessie Yang:不同行業(yè)的軟件安全標準介紹和對比 (中篇)5 贊同 · 0 評論文章

    各個標準的軟件安全標準技術(shù)比較

    不同行業(yè)對于軟件安全的標準和要求各有特點,基本上可以從幾個方面來做個比較和總結(jié):

    • 集成安全系統(tǒng) Vs. 獨立安全系統(tǒng)
    • 規(guī)定目標 Vs. 規(guī)定方法
    • 嚴重程度和保證級別分類
    • 容錯或故障預防
    • 概率評估與確定性分析
    • 安全案例

    1)集成安全系統(tǒng) Vs. 獨立安全系統(tǒng)

    根據(jù)不同應用和領域,“安全”是通過不同架構(gòu)來確保的。

    比如, 核電、機械自動化、航天和軌道領域通常采用一個專門的安全系統(tǒng):安全由一個相對獨立的系統(tǒng)來監(jiān)控和保證,與執(zhí)行所需功能的系統(tǒng)區(qū)分開來。而汽車和航空領域,安全性通常是“集成”在功能系統(tǒng)中

    在具體實踐中,這種選擇是根據(jù)風險與保護系統(tǒng)的結(jié)構(gòu)來確定。例如,如果沒有特定的安全狀態(tài),分離的保護系統(tǒng)是沒有作用的,因為在保護系統(tǒng)故障時,不可能將受控設備驅(qū)動到安全狀態(tài)。因此,必須專注于安全控制系統(tǒng),而不是去開發(fā)專用的獨立保護系統(tǒng)。

    汽車行業(yè),硬件成本是關(guān)鍵的設計驅(qū)動。因此,不會考慮專用的獨立保護系統(tǒng)。在大多數(shù)應用中,控制系統(tǒng)提供內(nèi)置機制來檢測故障并將系統(tǒng)置于安全狀態(tài)。在某些情況下,當可以使用另一個系統(tǒng)的現(xiàn)有功能作為保護機制時,則會考慮外部安全。

    2)規(guī)定目標 Vs. 規(guī)定方法

    各個安全標準,或者對滿足高級別安全目標的方法進行規(guī)定,或者對目標進行規(guī)定,至于方法,則完全由申請人負責。

    **方法規(guī)范性標準,**在嚴格按照作者所設想條件的情況下,易于使用。然而,它不能很好地應對新技術(shù)、方法和工具的出現(xiàn)。
    目標規(guī)范性標準可適用于各種技術(shù)、生命周期、工具等,但需要在使用前進行解釋 ; 并且解釋可能存在問題,可能與標準作者的意圖有很大差異。

    在這兩個極端之間,不同的標準采取了各種立場:

    IEC 61508和EN 50128是指定方法的,因為它“建議”、“強烈建議”甚至“命令”具體的方法來實現(xiàn)安全目標;

    ED-12 / DO-178 一般認為是目標性規(guī)定標準;

    ISO / DIS 26262和ECSS,通過建議技術(shù)方法,混合了一些針對目標的要求。

    3)嚴重程度和保證級別分類

    在各個行業(yè)領域中,標準都有 “級別”的分類,比如安全完整性級別、關(guān)鍵類別等。其思想是將系統(tǒng)(或功能,組件等)潛在故障的最壞后果(嚴重程度)相關(guān)聯(lián) ,某些領域(例如汽車)里,可能與曝光頻率相結(jié)合。 經(jīng)典的基于風險評估的方法中,每個“級別”對發(fā)生故障的可能性設置了限制,從而將風險控制在可接受的范圍內(nèi)。

    關(guān)鍵類別通常都是分配給功能, 這樣就定義了用于開發(fā)(和驗證)該功能的實施元素(系統(tǒng)\硬件\軟件項目)的(部分)需求,以便針對不同類別適當?shù)靥幚砜赡艿墓收蟻碓?#xff1a;

    • 隨機硬件故障:對于每個類別,安全標準定義了目標最大故障率、導致故障的最小獨立錯誤數(shù)。
    • 影響系統(tǒng)、硬件或軟件設計的開發(fā)錯誤:安全標準定義了適用于所有開發(fā)和驗證過程的要求,特別是開發(fā)和驗證流程。對于不同的關(guān)鍵類別(或類似概念),有著不同的要求,定義不同的DAL(開發(fā)保證級別)。 其思想是,不試圖量化評估由于這些錯誤而導致的故障概率,而是考慮滿足這些要求,提供了與風險嚴重程度相當水平的信心

    所有標準在基本原則上都是一致的,并且都認為必須強制隔離不同級別元素之間的故障傳播。但是,針對如何對后果的嚴重程度定義和排序,以及如何分配關(guān)鍵類別(例如,是否以及如何,通過在較低級別采用某種冗余方案,來實現(xiàn)某個級別的功能),標準之間存在著明顯的差異。

    • IEC 61508 分為SIL 1-4 ,EN50128分為SIL 0-4 ,ISO / DIS 26262分為ASIL A,B,C,D
    • ED-12 / DO-178 分為 DAL A,B,C,D ,其中A級針對災難性后果,為最高級別

    每個類別相關(guān)的要求甚至其性質(zhì)也存在差異

    • ED-12B / DO-178B對不同的級別規(guī)定了過程目標
    • IEC 61508或EN 50128明確列出了不同級別推薦的技術(shù)
    • ISO / DIS 26262和ECSS,通過建議技術(shù)方法,混合了一些針對目標的要求。

    4)容錯和故障預防

    基本上,各個領域中,容錯都是在系統(tǒng)級別要求,而不是在軟件層面進行要求:軟件標準基本上針對如何實現(xiàn)無錯誤的軟件,或明確規(guī)定(IEC 60880 或 EN 50128),或隱含要求(ED-12 / DO-178等),通常是通過對過程(例如,清晰全面的文檔、遵守規(guī)范、設計和代碼標準)和產(chǎn)品(例如,驗證、確定性結(jié)構(gòu)、管理并行性、完全由輸入確定功能的行為)提出要求。

    軟件標準(如 IEC 60880)通常要求的自檢,主要面向隨機硬件故障的檢測,例如內(nèi)存損壞或傳輸錯誤。在檢測到故障的情況下,標準不要求繼續(xù)正常處理,但要求采取預定義的行為(例如,將輸出設置到安全位置)。軟件不考慮對自身錯誤的容錯,因為檢測和重新配置算法,可能比功能軟件本身更復雜,反而增加錯誤的可能性。

    • IEC 60880等標準要求自檢不會對預期功能產(chǎn)生不利影響。
    • 軌道行業(yè)標準 CENELEC EN 50128 指出,不建議軟件的向后和向前恢復、動態(tài)重新配置和/或故障校正。

    **在系統(tǒng)級別或頂層架構(gòu)上,可以通過冗余設計,實現(xiàn)對潛在軟件容錯。**例如,系統(tǒng)內(nèi)的次計算機可以監(jiān)視主計算機,并使用不同的算法檢查其輸出的合理性,或者基于涉及不同物理測量的不同算法,兩個不同的系統(tǒng)可以獨立地觸發(fā)給定的安全動作。這些架構(gòu)解決方案之間的選擇主要取決于底層受控過程的特征。

    5)概率評估與確定性分析

    航空,自動化,汽車,核能,鐵路和航天領域的可靠性標準中,系統(tǒng)故障風險量化方法是相同的。

    各個領域的標準都沒有要求/支持對軟件故障的概率評估。與硬件相反,軟件被統(tǒng)一視為確定性的人為因素,功能故障只會由規(guī)范、設計或?qū)崿F(xiàn)中的錯誤引起。 因此,軟件安全的建設、評估和衡量,通過設計保證來統(tǒng)一處理 ---- 通過基于流程和產(chǎn)品開發(fā)活動的標準組合來實施。各個標準根據(jù)不同質(zhì)量和開發(fā)活動目標,對于回避開發(fā)缺陷的策略的嚴格程度可分為3~5個級別。但是,每個級別的殘余故障或功能障礙無法量化,對于可能引發(fā)系統(tǒng)故障的殘余軟件故障,是通過容錯機制來處理的---- 這些機制無論是在軟件還是硬件中實現(xiàn),仍然是確定性的。

    概率評估一方面可以量化組件級硬件故障的可能性,另一方面,可以量化系統(tǒng)級別針對用戶的災害事件的可能性。所有的標準都在系統(tǒng)級別,根據(jù)災害事件的嚴重程度來設置基于概率的目標,從而防范這些事件。

    基于“分而治之”的策略,作為實踐中唯一易行的方法,各個標準明確或暗示推薦,針對系統(tǒng)級失效行為的概率評估方法不依賴于系統(tǒng)級行為分析 ---- 而是依賴于架構(gòu)建模,其中可能包括時間依賴的容錯重配置邏輯,通過可靠性圖表、故障樹或狀態(tài)機捕獲事件到功能、功能到部件的依賴關(guān)系。

    所有標準中,一方面,由設計保證策略規(guī)定局部行為(硬件或軟件)的確定性分析,另一方面,基于嚴重程度的概率目標規(guī)定了通過“全局功能 – 部件”依賴關(guān)系圖對事件進行概率分析。

    **軟件安全標準的重點在于確定性驗證。**例如,通過選定的測試來覆蓋所有功能,并進一步驗證通過這些測試達到適當?shù)慕Y(jié)構(gòu)覆蓋。對于安全關(guān)鍵軟件(例如,在核能或航空領域),這些測試由獨立于開發(fā)團隊的人員完成。

    符合行業(yè)特定標準的軟件開發(fā),使得根據(jù)系統(tǒng)概率目標分配的安全要求得以滿足。

    6)安全案例

    一個安全案例是“一個文獻記錄的證據(jù)體系,提供了令人信服和有效的觀點,即系統(tǒng)對給定環(huán)境中的給定應用程序是足夠安全的”, 目的是展示產(chǎn)品的安全性。所以可以說,安全案例其實就是一篇有論點、論據(jù)和認證過程的完整議論文,是認證的基石。 它通常在生命周期內(nèi)逐步生成,并且在某個里程碑交付,比如進展到詳細開發(fā)之前,或安裝和調(diào)試之前。

    安全案例是有因果支撐的論據(jù),是一種記錄和向利益相關(guān)者提供保證的方式,保證由于遵守特定的安全標準,系統(tǒng)是可接受的、安全的。它必須在產(chǎn)品的所有生命周期內(nèi)(甚至在停產(chǎn)后)更新、可用。

    根據(jù)不同工業(yè)領域或國家,安全案例的構(gòu)成可能不同。它可以像開發(fā)過程中產(chǎn)生的信息集合一樣簡單,或者是在完整的安全生命周期中收集的完備證據(jù)。

    • 軌道領域(CENELEC EN 50129)和汽車領域(ISO / DIS 26262)的安全標準就是一個安全案例,CENELEC EN 50129甚至定義了安全案例的內(nèi)容。
    • 航空,核能或航天領域,標準則沒有明確提及安全案例,但為了符合該領域安全標準而提供的文件和保證,本身也就是安全案例的內(nèi)容。

    題外話

    在和各行業(yè)安全人員的交流中,大家常常會問,軟件安全分析怎么做?其實,不同行業(yè),軟件安全分析的定位各有不同。

    **在民航[ARP-4754A; ARP4761; DO-178C],核[IEC-61513,IEC-60880],航天[ECSS-Q40; ECSS-Q80]領域,在一定程度上,安全分析在系統(tǒng)級和功能、子系統(tǒng)和設備上執(zhí)行,但不是以專門的安全分析形式應用于軟件。**在這些領域中,軟件主要通過遵守軟件開發(fā)和驗證規(guī)則來促進系統(tǒng)安全,即通過在相應故障后果的程度上對軟件正確性的置信度進行論證。但值得注意的是,對故障后果進行評估,從而確定開發(fā)保證級別或軟件關(guān)鍵類別,來源于對系統(tǒng)層的安全分析,而不是軟件層的安全分析。

    **相反,在軌道[EN-50129]或汽車[ISO-26262]等領域,總體的安全理論非常相似,但需要對軟件執(zhí)行專門的安全分析。**在基本安全標準IEC 61508中,軟件安全分析包括一套支持功能安全評估的規(guī)范性手段。在過程行業(yè)領域標準 IEC 61511 中,這個概念才剛剛出現(xiàn)。

    總結(jié)

    對于如何最小化軟件開發(fā)和驗證錯誤帶來的風險,各個領域的安全標準存在許多顯著的差異。但這些標準之間主要的差異點并不是程度的多少:比如規(guī)則和標準的多少、結(jié)構(gòu)覆蓋面或核查獨立性的嚴格程度等等,更主要的差異在于一些更原則的問題:規(guī)定目標還是規(guī)定方法? 安全系統(tǒng)如何規(guī)劃等等。

    看看不同領域的標準異同,互通有無,也是蠻有啟發(fā)的事情。

    【參考文獻目錄】

  • Emmanuel Ledinot(1), Jean-Marc Astruc(2), Jean-Paul Blanquart(3), A cross-domain comparison of software development assurance
  • P. Baufreton1, JP. Blanquart2, JL. Boulanger3,Multi-domain comparison of safety standards,2010
  • 總結(jié)

    以上是生活随笔為你收集整理的不同行业的软件安全标准介绍和对比的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。

    免费看片在线观看 | 特级西西人体444是什么意思 | av一本久道久久波多野结衣 | 黄网站色视频免费观看 | 成人国产电影在线观看 | 夜夜操网站 | 欧美精品二区 | 免费观看成人 | 日韩系列在线观看 | 婷婷5月色 | 毛片的网址 | 久久精品一区二区 | 欧美人人 | 国语自产偷拍精品视频偷 | 天天爽天天射 | 婷婷六月久久 | 欧美黄色特级片 | 在线观看av麻豆 | 69久久99精品久久久久婷婷 | 九九免费在线看完整版 | 激情开心色 | 日韩精品欧美精品 | 999久久国精品免费观看网站 | 一区二区精品视频 | 美女免费黄网站 | www.91av在线| 欧美视频日韩视频 | 亚洲精品免费观看视频 | 成年人免费看的视频 | 欧美日韩精品免费观看 | 久久精品999 | 国产精品观看视频 | 久草在线免费在线观看 | 成 人 a v天堂 | 亚洲在线网址 | 中文字幕一区二区三区四区久久 | 国产精品毛片完整版 | 精品亚洲男同gayvideo网站 | 成人av资源在线 | 黄色成人小视频 | 91视频黄色 | 亚洲精品乱码久久久久久久久久 | 国产中文伊人 | 日韩丝袜| 国产一区在线视频播放 | 久久久久久久久久久久av | 99亚洲精品 | 亚洲视频电影在线 | 日本中文字幕一二区观 | 亚洲日本在线视频观看 | 91久久久久久久 | 免费看wwwwwwwwwww的视频 久久久久久99精品 91中文字幕视频 | 亚洲涩涩色 | 中文字幕亚洲情99在线 | www.xxxx变态.com| 992tv在线观看网站 | 中文字幕日韩免费视频 | 日韩午夜小视频 | 久久久久福利视频 | 亚洲精品456在线播放 | 久久夜夜夜 | 久久亚洲影视 | 日韩中文字幕第一页 | 久久伊人精品一区二区三区 | 色综合久久中文综合久久牛 | 91在线视频在线 | 成人毛片一区 | 欧美日韩国产综合一区二区 | 成人久久免费视频 | 九九九九九精品 | 久久99精品久久久久久三级 | 亚洲精品国产精品99久久 | 免费网址在线播放 | 欧美a级在线播放 | 国产婷婷一区二区 | 亚洲a色| 亚洲一区二区三区四区在线视频 | 国产v欧美 | 国产精品久久久久久久婷婷 | www.av小说| 天堂网中文在线 | 久久久久久不卡 | 视频三区| 久久精品日本啪啪涩涩 | 97超在线视频 | 免费午夜视频在线观看 | 久久99久久99精品免费看小说 | 天堂av免费看 | 我要看黄色一级片 | 中文视频一区二区 | 91av电影在线观看 | 日本黄色免费电影网站 | 久久精品网站免费观看 | 91经典在线 | 伊在线视频 | 久久精品黄 | 99在线观看免费视频精品观看 | 91视视频在线直接观看在线看网页在线看 | 毛片网在线观看 | 欧美精品久久久久a | 久久精品一区八戒影视 | 天天操夜夜干 | 天天综合导航 | 日韩a在线看 | 天天天天色综合 | 天天天天干 | 欧美成人在线免费观看 | 五月婷婷激情 | 亚洲精品乱码久久久一二三 | 国内精品美女在线观看 | 啪嗒啪嗒免费观看完整版 | 在线观看免费高清视频大全追剧 | 久久精品视频在线观看 | 色香蕉在线视频 | 日韩电影一区二区在线观看 | 国产三级国产精品国产专区50 | 国产精品久久久久久久久久 | 亚洲成人免费在线 | 亚洲国产网站 | 91系列在线| 免费国产在线精品 | 国产精品xxxx18a99 | 成人av片在线观看 | 国产高清视频在线 | 国产免费黄色 | 欧美一级日韩三级 | 精品女同一区二区三区在线观看 | 久精品视频免费观看2 | 六月久久婷婷 | 香蕉在线视频观看 | 91九色视频在线 | 欧美精品乱码久久久久久按摩 | 精品欧美小视频在线观看 | 成人免费视频网站在线观看 | 久草精品视频在线观看 | 精品一区二区三区电影 | 久久精品欧美一区 | 日韩视频在线不卡 | 久草视频99 | 精品免费视频 | 天天综合天天做天天综合 | av网站在线观看免费 | 91视视频在线直接观看在线看网页在线看 | 日女人免费视频 | 精品国产1区2区3区 国产欧美精品在线观看 | 在线精品在线 | 天天操月月操 | 在线观看国产成人av片 | 精品高清美女精品国产区 | 特级aaa毛片| 国产精品高潮呻吟久久久久 | 九色自拍视频 | 久一在线 | 玖玖视频| 色香蕉在线视频 | 波多野结衣亚洲一区二区 | 97国产精品久久 | 夜夜躁天天躁很躁波 | 偷拍久久久 | 亚洲最新av网址 | 综合国产在线观看 | 在线视频在线观看 | 国产精品99久久免费观看 | 色综合色综合久久综合频道88 | 久久久99久久 | 13日本xxxxxⅹxxx20 | 色wwww| 麻豆久久久久久久 | 中文字幕在线电影 | 亚洲国产中文字幕在线观看 | 一级免费黄视频 | 日韩在线免费播放 | 久久久这里有精品 | 欧美经典久久 | 国产糖心vlog在线观看 | 色婷婷综合成人av | www.亚洲黄色 | 日日操日日插 | 亚洲成人av电影在线 | 日韩av午夜 | 欧美精品一区在线 | 亚洲aⅴ乱码精品成人区 | 六月丁香激情网 | 久久久首页 | 亚洲精品xx | 午夜精品久久久久久久99热影院 | 欧美福利网址 | 亚洲妇女av | 免费看片网址 | 999成人 | 久久激情久久 | 亚洲女人av | 日本一区二区三区视频在线播放 | 国产一区二区电影在线观看 | 日韩中文在线字幕 | 青青网视频 | 久久久久精 | 日韩免费在线观看 | 久热这里有精品 | 99精品免费久久久久久日本 | 日韩视频在线一区 | 国产天天爽 | 91精品国自产拍天天拍 | 色在线最新 | 亚洲成色777777在线观看影院 | 日韩免费精品 | 国产精品毛片一区二区三区 | 亚洲夜夜网 | 国产精品久久久久久影院 | 综合网成人 | 亚洲综合精品在线 | 成人在线视频免费观看 | 日日夜夜狠狠操 | 免费色视频网站 | 日本免费一二三区 | 成人在线一区二区三区 | 福利在线看片 | 欧美极品久久 | 99久久精品午夜一区二区小说 | 国产亚洲成人网 | 久久天天躁狠狠躁亚洲综合公司 | 国产r级在线观看 | 免费看色的网站 | 色婷婷激情五月 | 激情视频亚洲 | 99精品免费久久久久久久久 | 亚洲天堂网站 | 蜜臀av性久久久久蜜臀aⅴ流畅 | av中文天堂在线 | 五月在线 | av在线播放一区二区三区 | 久草久草在线观看 | 亚洲九九九在线观看 | 国产99亚洲 | 国产精品 国产精品 | 日本黄色免费电影网站 | 六月丁香在线观看 | 国产麻豆精品久久一二三 | 99在线免费视频 | 久久婷婷亚洲 | 久久不卡日韩美女 | 视频二区 | 国产亚洲人成网站在线观看 | 少妇超碰在线 | 丁香资源影视免费观看 | 一区二区不卡视频在线观看 | 免费高清在线观看成人 | 精品国产乱码久久久久久浪潮 | 欧美精品亚洲精品 | 五月婷激情| 91成人免费电影 | 欧美一性一交一乱 | 中文字幕在线成人 | 黄色av电影在线观看 | 亚洲激情视频 | 国产一区二区三区四区在线 | 免费观看一区二区 | 国产97av| 天天插狠狠插 | 黄色最新网址 | 国产精品久久久久久爽爽爽 | 中文字幕在线观看网站 | 色狠狠久久av五月综合 | 婷婷中文字幕综合 | 久久99最新地址 | 色91av | 欧美日韩国产精品爽爽 | 欧美在线视频免费 | 激情欧美一区二区免费视频 | 四虎影视成人精品国库在线观看 | 国产成人黄色 | 国产成人精品福利 | 激情五月在线 | 天天操夜夜叫 | 国产一区二区三区网站 | 9在线观看免费 | 亚洲综合最新在线 | 婷婷色综合 | 三级黄色片在线观看 | 久久精品人 | 91最新在线视频 | 正在播放一区二区 | 久久久午夜视频 | 在线免费观看国产黄色 | 国产资源在线免费观看 | 91精品国自产在线 | 日日干 天天干 | 99在线观看免费视频精品观看 | 午夜精品婷婷 | 色天天久久 | 国产糖心vlog在线观看 | 欧美日比视频 | 婷婷激情久久 | 丁香婷五月 | 国产免码va在线观看免费 | 午夜在线免费视频 | 成人在线观看影院 | 五月天激情综合 | 射久久 | 黄色三级在线观看 | 日韩精品一区二区三区免费视频观看 | 91系列在线 | 久久 亚洲视频 | 免费在线观看视频a | 久章操| 91超碰免费在线 | 日韩专区一区二区 | 色九九影院 | 成人一级片在线观看 | 国产午夜精品一区二区三区欧美 | 日韩天天干 | 久久99精品国产一区二区三区 | 黄色官网在线观看 | 麻豆国产露脸在线观看 | 中文字幕在线观看一区 | 国产黄色在线网站 | 国产在线视频一区二区 | 亚洲激情| 97国产大学生情侣酒店的特点 | 国产 中文 日韩 欧美 | 五月婷婷开心 | 天天操导航 | 亚洲激情| 日韩1级片 | 99国产精品久久久久老师 | 成人黄色在线视频 | 婷婷色网站| 9草在线| 欧美精品在线观看一区 | 午夜精品久久久久 | 97国产精品免费 | 国产不卡视频 | 在线观看免费色 | 婷婷丁香狠狠爱 | 免费三级黄色片 | 亚洲精品美女在线观看 | 国产91精品一区二区 | 久草电影在线观看 | 久久经典国产视频 | 日韩欧美国产激情在线播放 | 亚洲欧美视频一区二区三区 | 午夜精品剧场 | 国产免费三级在线观看 | 亚洲精品国产免费 | 五月婷婷开心中文字幕 | 欧洲不卡av | 欧美aaa大片| 亚洲免费一级 | 西西www4444大胆在线 | 98精品国产自产在线观看 | 欧美黑人性爽 | 国产欧美综合视频 | 国产成人一区二区三区电影 | 一级黄色片在线观看 | 日韩欧美中文 | 四月婷婷在线观看 | 久久久久久国产精品亚洲78 | 成人一区二区三区中文字幕 | 狠狠躁夜夜躁人人爽超碰97香蕉 | 婷婷综合av| 99热这里只有精品1 av中文字幕日韩 | 亚洲激情免费 | 超级碰碰碰免费视频 | 毛片网站在线观看 | 99精品久久99久久久久 | www.久久91 | www.婷婷色 | 视频在线观看一区 | 亚洲五月激情 | 国产视频一二三 | 国产96在线 | 激情欧美一区二区三区免费看 | 成人羞羞视频在线观看免费 | 最近中文字幕免费av | 99在线视频免费观看 | 久久久久国产精品视频 | 国产一区二区在线视频观看 | 51久久成人国产精品麻豆 | 玖草影院 | 开心色插 | 国产网红在线观看 | 日韩精品免费一区二区 | 国产97视频 | a极黄色片| 国产无遮挡又黄又爽在线观看 | 99热 精品在线 | 天堂网一区 | 视频在线观看入口黄最新永久免费国产 | 视频1区2区 | 欧美日韩亚洲精品在线 | 操操色| 正在播放国产一区二区 | 五月天国产精品 | 夜夜躁狠狠躁日日躁 | 久久国产系列 | www.com黄 | 久久爱992xxoo | 国产精彩视频一区 | 欧美综合在线观看 | 久久久久久99精品 | 日韩免费不卡视频 | 欧美日韩国产二区 | 综合色在线 | 午夜精品一区二区三区免费视频 | 亚洲成aⅴ人在线观看 | 日韩精品一区二区三区中文字幕 | 涩涩在线 | 天天操偷偷干 | 中文字幕黄色网址 | 激情五月在线观看 | av青草| 黄色电影在线免费观看 | 国产激情电影综合在线看 | 一区二区三区久久精品 | 在线观看 亚洲 | 国产精品av在线免费观看 | 午夜91视频 | 成人国产一区 | 91麻豆免费版 | 五月婷婷激情网 | 国产又粗又硬又长又爽的视频 | 国产婷婷vvvv激情久 | 在线午夜 | 天天色欧美 | 91网在线看 | 欧美久久久久久久久 | 久久www免费视频 | 午夜精品视频福利 | av看片在线| 人成电影网| 日韩理论在线视频 | 丁香色天天 | av爱干| 亚洲美女免费视频 | 久久久久久高潮国产精品视 | 日韩亚洲在线视频 | av一区二区三区在线 | 色多多污污在线观看 | 久热超碰 | 国产福利一区二区三区视频 | 亚洲乱码国产乱码精品天美传媒 | 夜夜躁狠狠燥 | 日韩一级片网址 | 欧美国产日韩在线观看 | 久久久久久久久久久久亚洲 | 欧美性生交大片免网 | 午夜精品剧场 | 久久国产视频网站 | 91麻豆精品国产91 | 亚洲最新av网站 | 在线国产视频观看 | 国产精品久久久久三级 | 日本成人中文字幕在线观看 | 91福利视频网站 | 超碰夜夜 | 人人添人人澡 | 欧美日韩不卡在线视频 | 99视频免费播放 | 国内精品久久天天躁人人爽 | 激情综合色综合久久综合 | 五月婷婷在线观看视频 | 玖玖玖在线 | 日韩视频一区二区在线 | 国产涩图| 久久久久久久久国产 | 91在线观看视频网站 | 国产字幕av | 免费在线观看黄网站 | 色婷婷激情综合 | 亚洲精品中文在线观看 | 国产成人福利在线观看 | 亚洲一区免费在线 | 特黄免费av | 欧美人体xx | 夜夜夜夜夜夜操 | 丁香五月网久久综合 | 97人人爽| 一区二区视频免费在线观看 | 尤物九九久久国产精品的分类 | 天天玩天天干 | 波多野结衣久久资源 | 久草在线免费看视频 | 在线亚州| 激情五月六月婷婷 | 国产精品国产三级国产 | 免费日韩一区二区 | 欧美激情视频一区 | 亚洲五月婷婷 | 国内精品久久久 | 免费网站色 | 综合网色 | 国产精品久久久久久欧美 | 成人av中文字幕在线观看 | 激情狠狠干 | 日韩高清精品免费观看 | 97超碰人人 | 久久久蜜桃一区二区 | 韩国av在线播放 | 欧美性久久久 | 韩日av一区二区 | 99精品视频在线观看播放 | 色婷婷丁香 | 久久久高清免费视频 | 日韩天天干 | 米奇四色影视 | 色a网| 婷婷久久精品 | 在线观看一级 | aa级黄色大片 | 亚洲理论在线观看 | 国产精品亚洲成人 | 精品久久久久久久久久国产 | 丁香婷婷色综合亚洲电影 | 亚洲综合在线五月 | 狠狠狠综合 | 天天干天天草 | 成人中文字幕在线观看 | av一区二区三区在线 | 欧美精品久久久久久久久久白贞 | 夜夜操狠狠干 | 在线成人欧美 | 欧美在线视频一区二区三区 | 六月丁香色婷婷 | 亚洲午夜精品一区二区三区电影院 | 香蕉影院在线播放 | 香蕉视频在线免费 | 久草久草久草久草 | 亚洲精品视频偷拍 | 久久久黄视频 | 中文字幕av有码 | 精品国产91亚洲一区二区三区www | 国产综合精品一区二区三区 | 成人av在线网址 | 天天操天天操天天干 | 日韩欧美专区 | 久久精品91久久久久久再现 | 超碰人人射 | 国产欧美久久久精品影院 | 国产一级a毛片视频爆浆 | 91国内产香蕉 | 婷婷色综| 亚洲人成网站精品片在线观看 | 高清av不卡 | 久草在线在线视频 | 免费观看久久 | 超碰最新网址 | 99视频在线精品 | 97人人模人人爽人人喊网 | 免费高清影视 | 国产一级淫片在线观看 | aa级黄色大片 | 久久久久五月天 | 亚洲精品一区二区三区新线路 | 国产一区二区在线免费 | 中文字幕色站 | 午夜精品一区二区三区在线观看 | 日韩系列 | 国产美女精品在线 | 国产精品久久一区二区三区, | 最近免费在线观看 | 蜜臀aⅴ国产精品久久久国产 | 五月天视频网站 | 国产精品日韩在线观看 | 国产成人高清av | 国产精品免费在线 | a极黄色片 | 久久久久久国产精品久久 | 国产中文字幕视频 | 日韩精品aaa | 国产91在线免费视频 | 亚洲一区二区三区精品在线观看 | 色婷久久 | 免费99| 色五月成人 | 精品久久久久久综合 | 国产亚洲资源 | 亚洲女人天堂成人av在线 | 在线免费观看涩涩 | 超碰999 | 中文字幕二区 | 色资源中文字幕 | 亚洲精品综合一二三区在线观看 | 国产精品免费久久久 | 日日干夜夜草 | 国产亚洲精品久久久久久网站 | 久久一级电影 | 久久久久久久综合色一本 | 久草在线视频在线观看 | 最新av电影网址 | 亚州精品在线视频 | 三级在线视频播放 | 欧美一级裸体视频 | 久久久久久久久久久免费av | 国产精品美女久久久久久久久久久 | 精品 激情 | 免费一级片在线观看 | 中文字幕超清在线免费 | 亚洲欧美日韩国产一区二区 | 超碰在线94 | 成人永久在线 | 免费福利在线播放 | 99高清视频有精品视频 | 麻豆免费观看视频 | 日韩婷婷 | 日韩欧美高清 | 亚洲专区 国产精品 | www色,com| 日韩视频在线不卡 | 亚洲综合色丁香婷婷六月图片 | 九七人人干 | 天天久久夜夜 | 久久久久久久综合色一本 | 黄网站大全 | 日p视频| 国产欧美综合在线观看 | 亚洲成人家庭影院 | 尤物97国产精品久久精品国产 | 91精品伦理 | 天天操操 | 精品久久一区二区三区 | 成人黄色片免费看 | 亚洲日本成人网 | 毛片一区二区 | 欧美9999 | 人人看人人爱 | 91看片看淫黄大片 | 日韩区在线观看 | 国产一级电影网 | 国产不卡av在线 | 国产99久久久国产 | 五月天婷亚洲天综合网鲁鲁鲁 | 国内精品久久久久影院日本资源 | 欧美极品在线播放 | 欧美精品久久久久久久久久 | 欧美日韩成人 | 精品视频 | 一本色道久久综合亚洲二区三区 | 亚洲激情视频在线 | 99久久精品免费看 | 综合网天天 | 在线免费91 | 日操操 | 又色又爽又黄高潮的免费视频 | 久久精品国产第一区二区三区 | 国产日韩中文字幕 | 色婷婷九月 | 激情欧美一区二区三区免费看 | 五月激情姐姐 | 中文字幕999 | 亚洲精品久久久久久久不卡四虎 | 精品中文字幕视频 | 久久精品国产一区二区三区 | 99精品成人| 福利av在线 | 国产精品aⅴ | 亚洲九九九在线观看 | 久久视频一区 | 中文字幕中文中文字幕 | 久草视频网| 精品国产亚洲一区二区麻豆 | 深夜精品福利 | 九九在线视频免费观看 | 国产美女视频黄a视频免费 久久综合九色欧美综合狠狠 | 久久电影国产免费久久电影 | 91一区啪爱嗯打偷拍欧美 | 国产精品久久久久久久久久直播 | 公开超碰在线 | 777视频在线观看 | 丁五月婷婷 | 五月天综合色 | 久久免费在线观看 | 国产精品久久久久四虎 | 亚洲在线观看av | 精品国产一二三四区 | 日韩美av在线 | 伊人永久 | 99久久精品免费看国产一区二区三区 | 色欧美综合| 国产视频久久 | 中文字幕精品www乱入免费视频 | 日韩欧美在线高清 | 最近中文字幕免费观看 | 天天伊人狠狠 | 在线观看黄a | 97av视频在线观看 | 成年人免费av | 日韩影视大全 | 天天干天天操天天射 | 欧美日本国产在线观看 | 免费观看不卡av | 日韩最新在线视频 | 亚洲精品久久久久999中文字幕 | 国产一级黄色片免费看 | 精品美女国产在线 | www.久久99 | 91av99| 久久国产精品久久国产精品 | 中文字幕 国产 一区 | 激情影音先锋 | 国产视频精品久久 | 日韩国产精品一区 | 少妇高潮冒白浆 | 网站免费黄色 | 日韩中文字幕免费在线观看 | 在线视频 国产 日韩 | 色偷偷88欧美精品久久久 | 美女黄网站视频免费 | 特黄色大片 | 国产我不卡 | 久久久久久久久久久久久久免费看 | av高清免费 | 久久久久激情电影 | 天堂av官网 | 日韩色高清 | 精品久久久久久久久久久久久久久久久久 | 蜜臀精品久久久久久蜜臀 | 最近日本韩国中文字幕 | 水蜜桃亚洲一二三四在线 | 在线色网站| 国产美腿白丝袜足在线av | 91精品欧美一区二区三区 | 欧美精彩视频在线观看 | 亚洲国产成人精品在线观看 | 色 中文字幕 | 天天操夜操视频 | 欧美日韩国产欧美 | 免费在线观看av电影 | 欧美激情视频在线观看免费 | 在线视频app | 91视频在线免费 | 国产一级片免费观看 | 91高清不卡 | 国产福利精品在线观看 | 久久99久久99久久 | 日韩一二区在线 | 亚洲精品午夜aaa久久久 | 色丁香婷婷 | 色婷婷久久久 | 91精品人成在线观看 | 中文字幕在线视频网站 | 久久一区精品 | 国产 在线观看 | 国产69久久久欧美一级 | 国产精品原创在线 | 亚洲国产精品资源 | 免费av免费观看 | 国产精品一区二区三区久久 | 波多野结衣理论片 | 美女免费黄视频网站 | 国产美女主播精品一区二区三区 | 国产视频亚洲视频 | 最近中文字幕免费大全 | 欧美一区二区在线免费看 | 国产视频一区二区三区在线 | 国产亚洲情侣一区二区无 | 欧美夫妻性生活电影 | 蜜桃av久久久亚洲精品 | 欧美日韩精品在线一区二区 | 精品久久久久久久久亚洲 | 久久久久亚洲精品男人的天堂 | 天天天天天天操 | 成人综合日日夜夜 | 国产精品久免费的黄网站 | 午夜三级福利 | 99在线国产 | 国产破处视频在线播放 | 中文字幕精品一区二区精品 | 午夜视频色 | 久久精品79国产精品 | 一区免费在线 | 亚洲免费在线观看视频 | 国内久久 | 欧美国产亚洲精品久久久8v | 国产成人精品一区二区 | 黄色三级在线观看 | 日韩欧美中文 | 欧美日韩国产一区二区三区在线观看 | 久久电影中文字幕视频 | 日韩在线观看的 | 人人干狠狠干 | 手机av电影在线观看 | 亚洲成人av免费 | 人人玩人人添人人澡97 | 欧美 激情在线 | 欧洲精品视频一区二区 | 超碰国产在线观看 | 国产精品男女啪啪 | 国产96在线视频 | www.超碰 | 久久色网站 | 久久精品小视频 | 国产日产高清dvd碟片 | 综合在线观看 | 亚洲欧美乱综合图片区小说区 | 日日干日日色 | 日本福利视频在线 | 国产精品美女久久久久久久 | av电影免费在线播放 | 免费网站v | 香蕉在线观看 | 黄色亚洲片 | 国产免费精彩视频 | 成人在线视频论坛 | 夜夜夜草 | 久久久久久国产精品 | 婷婷在线精品视频 | 黄色av大片 | 中文字幕资源网 | 天天看天天操 | 中文在线字幕免费观 | 亚洲高清在线视频 | 国产精品毛片一区二区在线 | 天堂av在线 | 午夜丁香视频在线观看 | 深夜免费福利网站 | 国产无吗一区二区三区在线欢 | 成人一级片视频 | 久久国产经典视频 | 欧美一区二区在线看 | 91在线视频播放 | 精品一区二区在线观看 | 婷婷丁香激情综合 | 亚洲乱码久久久 | 天天艹天天干天天 | 久久精品久久久精品美女 | 视频91在线 | 999国产在线 | 成人精品影视 | 一区二区视频在线播放 | 一区二区视频在线播放 | 手机av看片 | 日韩在线精品一区 | 国产中文字幕在线视频 | 999在线观看视频 | 99视频在线看 | www.色国产 | 国产一区视频在线播放 | 91av看片| 人人插人人做 | 亚洲午夜精品一区二区三区电影院 | 亚洲一区二区天堂 | 国产自偷自拍 | 亚洲精品国偷自产在线99热 | 久热超碰| 五月亚洲 | 中文字幕视频网站 | 色com| 成人av电影在线观看 | 国产九九九视频 | 久久久久在线观看 | 中文字幕在线一区二区三区 | 中文字幕在线免费播放 | 国产亚洲高清视频 | 人人舔人人舔 | 国产在线精品视频 | 欧美激情精品久久久久久 | 丁香婷五月 | 欧美视频国产视频 | 国产xx在线 | 国产精品女同一区二区三区久久夜 | 久草在线 | 日韩v欧美v日本v亚洲v国产v | 欧美精品久久久久久久 | 久久综合九色综合网站 | 在线视频免费观看 | 成人在线视频一区 | 日韩在线视频国产 | 麻豆一区二区三区视频 | 亚洲专区一二三 | 黄色av成人在线 | 不卡精品 | 国产亚洲欧美一区 | 91麻豆精品国产自产在线 | 国产精品麻豆三级一区视频 | 亚洲精品一区中文字幕乱码 | 免费又黄又爽视频 | 久久久精品 | 久久国产精品久久w女人spa | 天天天干夜夜夜操 | 91成年人网站 | 日韩av电影网站在线观看 | 国产精品一区二区三区四 | www五月婷婷 | 亚洲精品在线观看中文字幕 | 国产精品videossex国产高清 | 亚洲精品中文在线 | 日韩高清av | 国产无套视频 | 91av视频在线观看免费 | 91丨九色丨蝌蚪丨对白 | 免费十分钟 | 午夜精品电影 | 久久er99热精品一区二区三区 | 免费观看性生交大片3 | 日韩手机在线观看 | 色婷婷国产精品 | 国产精品成人在线观看 | 久久视频这里有久久精品视频11 | 国产又粗又猛又爽又黄的视频免费 | 婷婷网在线 | 99热在线国产 | 亚洲精品国产免费 | 久草视频在线资源站 | 日韩中文字幕国产精品 | 999国产在线 | 免费观看成人 | av3级在线 | 精品久久久久久久久亚洲 | 亚洲天堂网在线播放 | 国产91精品看黄网站在线观看动漫 | 毛片3| www.eeuss影院av撸| 国产亚洲精品久久久久久移动网络 | 久久久久久久网站 | 在线观看韩国av | 免费的国产精品 | 亚洲国产一二三 | 久草精品网 | 婷婷网五月天 | 99这里都是精品 | 天天摸天天舔 | 99久久精 | av在线网站免费观看 | 日韩欧美一区二区不卡 | 蜜臀aⅴ国产精品久久久国产 | 久久99国产精品久久 | 日韩av在线免费播放 | 国产大片免费久久 | 久久与婷婷 | 99精品国产99久久久久久福利 | 久草免费资源 | 国内精品久久久久久久97牛牛 | 国内成人精品2018免费看 | 99理论片| 欧美色综合天天久久综合精品 | 国产一区视频在线 | 不卡av免费在线观看 | 国产成人一级电影 | 九九色网| 久久久久久福利 | 在线播放国产精品 | 天天操偷偷干 | 欧美精品在线观看免费 | 国产欧美久久久精品影院 | www亚洲国产 | 91av片| 九九av | 五月天中文字幕mv在线 | 久操中文字幕在线观看 | 精品99免费 | 欧美专区日韩专区 | 免费成人黄色av | 97在线观看免费高清完整版在线观看 | 婷婷丁香在线观看 | 国产999视频在线观看 | 91麻豆视频 | 亚洲精选视频在线 | 亚洲天堂网在线观看视频 | 精品国产伦一区二区三区 | 亚洲成人av一区二区 | 999成人 | www.色午夜,com | 久久久久在线 | 日韩精品免费在线观看 | 激情开心网站 | 97国产视频 | 天天爱天天干天天爽 | 2024国产精品视频 | 日韩中文字幕免费视频 | 成人在线视频论坛 | av在线com| 久久伦理影院 | 国产一级片久久 | 日本大片免费观看在线 | 丁香五香天综合情 | 在线va网站 | 99热国产在线中文 | 国产人成一区二区三区影院 | 久久综合操 | 在线观看免费黄色 | 亚洲一片黄 | 免费毛片aaaaaa | 久久综合九九 | 日韩久久网站 | 热re99久久精品国产99热 | 蜜臀久久99精品久久久无需会员 | 一区二区精品视频 | 国产精品wwwwww | 偷拍区另类综合在线 | 伊人天天综合 | 国产精品国产三级国产aⅴ入口 | 国产在线观看中文字幕 | 日韩欧美v | 91精品对白一区国产伦 | 免费又黄又爽的视频 | 91丨九色丨蝌蚪丨老版 | 蜜桃视频在线视频 | 久精品视频免费观看2 |