進(jìn)入2024，人工智能(AI)的熱潮持續(xù)升溫，面對(duì)日新月異的人工智能技術(shù)，我們不禁要問：這些聰明的算法，會(huì)給安全自動(dòng)化領(lǐng)域帶來變革嗎?

　　答案毋庸置疑，人工智能正在改變世界……但是，AI的安全性該如何保證呢?

　　AI與機(jī)械安全的結(jié)合

　　AI是基于數(shù)學(xué)的編程代碼，旨在模仿人類的行為以及自動(dòng)化決策的過程。20世紀(jì)60年代奠定了AI技術(shù)的基礎(chǔ)，但直到今天，隨著硬件的進(jìn)步、新的概念的涌現(xiàn)以及新算法的開發(fā)，AI才真正迎來了發(fā)展的春天。

　　對(duì)于那些傳統(tǒng)算法和技術(shù)無法解決的問題，AI技術(shù)的發(fā)展為我們提供了克服這些問題的可能性，為新的商業(yè)領(lǐng)域、商業(yè)模式、產(chǎn)品和服務(wù)開辟了空間。但想要將人工智能技術(shù)與機(jī)械安全技術(shù)相結(jié)合，必須要面對(duì)的一個(gè)挑戰(zhàn)便是AI的“black box”的特性，我們無法預(yù)測(cè)或理解復(fù)雜的AI系統(tǒng)是如何做出決策的，而這一點(diǎn)恰恰是功能安全的關(guān)鍵。

　　AI在機(jī)械安全中的應(yīng)用要求

　　人工智能技術(shù)在機(jī)械安全中的應(yīng)用要求主要涉及三個(gè)關(guān)鍵方面，即安全性、透明度和可靠性，在實(shí)施AI機(jī)械安全時(shí)，必須充分考慮和實(shí)現(xiàn)。

　　l 安全性(Safety & Security)

　　安全性是指AI系統(tǒng)在執(zhí)行其功能時(shí)，不會(huì)對(duì)人員、財(cái)產(chǎn)或環(huán)境造成損害的能力。在機(jī)械安全領(lǐng)域，意味著AI系統(tǒng)必須能夠在預(yù)期的操作條件下正常工作，同時(shí)在出現(xiàn)異?；蚬收蠒r(shí)采取適當(dāng)?shù)陌踩胧虼薃I系統(tǒng)的設(shè)計(jì)和實(shí)施必須遵循嚴(yán)格的安全標(biāo)準(zhǔn)，如ISO 26262(道路車輛功能安全)或IEC 61508(電氣/電子/可編程電子系統(tǒng)的功能安全)等。

　　l 透明度(Transparency)

　　透明度是指AI系統(tǒng)的決策過程能夠被理解和解釋，這有助于建立用戶對(duì)AI系統(tǒng)的信任，并在出現(xiàn)問題時(shí)快速定位和解決問題。在機(jī)械安全領(lǐng)域，這意味著操作人員和安全工程師需要能夠理解AI系統(tǒng)是如何做出特定決策的，以便在必要時(shí)進(jìn)行干預(yù)或改進(jìn)。

　　l 可靠性(Reliability)

　　可靠性是指AI系統(tǒng)能夠在長(zhǎng)時(shí)間內(nèi)持續(xù)穩(wěn)定地執(zhí)行其預(yù)定任務(wù)的能力。在機(jī)械安全領(lǐng)域，AI系統(tǒng)的可靠性至關(guān)重要，因?yàn)樗苯雨P(guān)系到系統(tǒng)的安全性能。為了提高AI系統(tǒng)的可靠性，技術(shù)人員會(huì)使用各種算法和方法來量化系統(tǒng)的不確定性，確保AI系統(tǒng)能夠在其決策中識(shí)別出無效輸入，并作出適當(dāng)?shù)捻憫?yīng)。此外，可以通過采用適當(dāng)?shù)南到y(tǒng)架構(gòu)和設(shè)計(jì)概念，提高AI系統(tǒng)的可靠性。

　　立法與標(biāo)準(zhǔn)的跟進(jìn)

　　歐盟AI法案(EU AI Act)為AI系統(tǒng)的發(fā)展、部署和使用提供了統(tǒng)一規(guī)則，同時(shí)也關(guān)注個(gè)人安全和基本權(quán)利，目前普遍應(yīng)用的算法都屬于該法案的范疇，只是目前該法案尚處于起草階段。

　　歐盟機(jī)械指令(EU Machinery Regulation)已經(jīng)要求在功能安全中使用AI系統(tǒng)時(shí)必須進(jìn)行符合性合規(guī)評(píng)估，所以安全相關(guān)的AI系統(tǒng)均被列為“高風(fēng)險(xiǎn)機(jī)械”。這對(duì)于像皮爾磁PILZ這樣的制造商而言，哪怕是已經(jīng)符合相關(guān)的協(xié)調(diào)標(biāo)準(zhǔn)，也必須由公告機(jī)構(gòu)參與符合性合規(guī)評(píng)估。

　　ISO/IEC CD TR 5469“人工智能 — 功能安全和AI系統(tǒng)”，是一個(gè)正在制定中的國(guó)際標(biāo)準(zhǔn)，它專門針對(duì)AI系統(tǒng)在功能安全領(lǐng)域的應(yīng)用，旨在為AI系統(tǒng)的設(shè)計(jì)、開發(fā)、集成和驗(yàn)證提供指導(dǎo)，確保這些系統(tǒng)在安全相關(guān)的應(yīng)用中能夠可靠地執(zhí)行其功能。

　　作為安全自動(dòng)化領(lǐng)域的佼佼者，皮爾磁PILZ正密切關(guān)注AI技術(shù)的發(fā)展，并在機(jī)械安全領(lǐng)域進(jìn)行深入的研究。我們的使命是確保AI技術(shù)在保護(hù)人類和機(jī)械方面的應(yīng)用是安全和可靠的。在這個(gè)AI的新時(shí)代，皮爾磁將和您一起，共同探索和實(shí)現(xiàn)更安全、更可靠和更高效的自動(dòng)化未來。