Vapauta merihirviö : Lisää mihin tahansa teollisuusjärjestelmään helposti tekoälyä

Tekoälyn (AI) ja koneoppimisen (ML) sovelluksien käyttöön teollisuusympäristössä kohdistuu paljon mielenkiintoa. Niiltä odotetaan tuottavuuden ja tehokkuuden kasvua ja samalla säästöjä käyttökustannuksissa. Kaikki insinöörit ja tuotekehityspäälliköt voivat kuitenkin kertoa, että ratkaistavana on kolme tärkeää ongelmaa, jotka liittyvät siihen miten "äly" lisätään olemassa oleviin “tyhmiin” koneisiin, moottoreista HVAC-järjestelmiin.

Ensiksi, AI- ja ML-asiantuntijoita ei ole tarpeeksi kysynnän täyttämiseksi ja saatavana olevat asiantuntijat eivät ole halpoja. Toiseksi, AI- ja ML-järjestelmien kouluttamiseen ei ole tarjolla laadukkaita datajoukkoja, ja kaikkia saatavana olevia datajoukkoja vartioidaan mustasukkaisesti. Kolmanneksi, AI- ja ML-järjestelmät ovat perinteisesti vaatineet korkeatasoisen prosessointialustan, jonka päällä niitä suoritetaan.

Tarvitaan tapa, jolla nykyiset insinöörit ja kehittäjät voisivat ilman AI- ja ML-kokemusta nopeasti luoda AI- ja ML-järjestelmiä ja käyttää niitä tehokkailla ja edullisilla mikrokontrollerialustoilla. Eräs mielenkiintoinen startup-yritys nimeltä Cartesiam.AI vastaa kaikkiin näihin haasteisiin NanoEdge AI Studio -tuotteellaan. Annahan kun kerron miten.

AI:n ja ML:n kasvun kvantifiointi

Reunalaitteita arvioidaan vuoden 2020 keskivaiheilla olevan, lähteestä riippuen, 20–30 miljardia ^1,2. Termillä "reunalaite" tarkoitetaan tässä verkkolaitteita ja antureita, jotka sijaitsevat internetin reunalla ja ovat yhteydessä reaalimaailman kanssa. Näistä vain noin 0,3 prosentissa on riittävästi kapasiteettia AI- ja ML-käyttöön. Lisäksi on arvioitu, että vuoteen 2025 mennessä tällaisia laitteita on 40–75 miljardia,^3,4 jolloin odotetaan että ainakin 25 prosentissa on riittävästi kapasiteettia AI- ja ML-käyttöön.

Merkittävä tekijä teollisuuskäytössä on ottaa olemassa olevat "tyhmät" koneet ja tehdä niistä "älykkäitä" lisäämällä niiden AI- ja ML-kapasiteettia. Tämä potentiaalia on vaikea yliarvioida; on esimerkiksi arvioitu, että olemassa oleva tyhmä infrastruktuuri ja koneet ovat yksinomaan Yhdysvalloissa arvoltaan 6,8 biljoonaa dollaria .⁵

Miten saada AI ja ML reunalle tehokkaammin

Esineiden Internet (IoT) ja Teollinen IoT (IIoT) ovat jo joka paikassa ja objektit saamassa verkkoyhteyden – seuraava haaste on tehdä näistä objekteista älykkäitä.

Perinteinen tapa tehdä AI/ML-sovelluksia on määrittää neuroverkon arkkitehtuuri sekä neurokerrosten lukumäärä, neuronien lukumäärä per kerros sekä se, miten eri neuronit ja kerrokset yhdistetään toisiinsa. Seuraava vaihe on käyttää pätevää datajoukkoa (jonka luominen saattaa jo itsessään vaatia valtavasti aikaa ja resursseja). Pilvessä oleva verkko koulutetaan datajoukolla (ts. käytetään valtavaa määrää tehokkaita palvelimia, jotka tarjoavat hirvittävästi laskentakapasiteettia). Lopuksi koulutettu verkko muunnetaan muotoon, jota reunalaitteet pystyvät käyttämään.

IBM Quant Crunch Report -raportin⁶ mukaan datatiede ja analytiikka (DSA) eivät ole enää vain muotisanoja; ne ovat ennemminkin tärkeitä liiketoiminnan työkaluja. On kuitenkin kasvava huoli siitä, että DSA-asiantuntijoiden tarjonta on paljon jäljessä kysyntää. Pelkästään Yhdysvalloissa datatutkijoiden määrä on 130 000 jäljessä kysyntää.

Valitettavasti ammattitaitoisten datatutkijoiden ja pätevien datajoukkojen puute ovat esteitä AI/ML-kykyisten älyobjektien nopealle ja edulliselle kehitykselle. Ciscon⁷ mukaan IoT-projektien yleinen epäonnistumisaste on noin 74 %, ja tämä epäonnistumisaste kasvaa AI/ML-kykyisten projektien myötä.

IDC:n⁸ mukaan maailmassa on noin 22 miljoonaa ohjelmistokehittäjää. Näistä noin 1,2 miljoonaa toimii sulautettujen järjestelmien parissa, ja näistä vain noin 0,2 prosentilla on edes minimalistiset AI/ML-taidot.

Jotkin AI- ja ML-järjestelmät, kuten konenäön käyttö objektien havaitsemiseen ja tunnistukseen, vaativat erityisten huipputasoa edustavien tietokonelaitteiden käyttöä, mukaan lukien grafiikkasuorittimet (GPU) ja/tai ohjelmoitavat porttimatriisit (FPGA). Uusien AI/ML-teknologioiden kehitys tarkoittaa kuitenkin, että valtaosaa ei-konenäköä käyttävistä AI/ML-sovelluksista voidaan käyttää suhteellisen pienitehoisissa ja sulautetuissa järjestelmissä yleisesti käytetyissä mikrokontrollereissa.

Vuonna 2020, Statistan⁹ mukaan, mikrokontrollerien maailmanlaajuisten toimituksien odotetaan kasvavan yhteisarvoltaan noin 28 miljardiin yksikköön (tämä on noin 885 joka sekunti). Tämä tekee mikrokontrolleripohjaisista alustoista markkinoiden yleisimmän laitteiston. Mikrokontrollerit ovat edullisen hintansa ja alhaisen virrankulutuksensa ansiosta täydellinen alusta älyn tuomiseksi reunaan.

Jopa suurille yritysorganisaatioille, joilla on käytössään datatutkijoita ja datajoukkoja ja lähes rajaton budjetti, AI- ja ML-teknologioiden hallinta on vaikeaa. Pienemmille yrityksille se voi hyvinkin olla mahdotonta. Jos tilanne jatkuu "tällaisenaan", ei ole mitenkään mahdollista että 25 prosenttiin reunalaitteita olisi lisätty vuoteen 2025 mennessä AI/ML-kapasiteetti. Jos vain mikrokontrolleripohjaisten sulautettujen järjestelmien nykyiset kehittäjät pystyisivät kehittämään AI/ML-sovelluksia...

Yksinkertainen, nopea ja edullinen tapa kehittää AI/ML-kykyisiä älyobjekteja

Ubiikein sulautettujen sovellusten laskenta-alusta teollisuusympäristöissä on mikrokontrolleri, eikä yksikään muu mikrokontrolleri ole ubiikimpi kuin Armin Cortex-M-perhe, erityisesti M0, M0+, M3, M4 ja M7.

Kuva 1: V2M-MPS2-0318C on tehokas kehitysalusta Arm Cortex-M -pohjaisille sovelluksille. Se tarjoaa paljon I/O-optioita ja LCD-näytön. (Kuvan lähde: Arm)

Yksi asia mitä yrityksillä on käytettävissään on perinteisten sulautettujen järjestelmien kehittäjät. Mitä tarvitaan on saada nämä kehittäjät jollain tavalla toimimaan AI/ML-asiantuntijoina tarvitsematta kouluttaa heitä. Ideaalinen ratkaisu olisi antaa perinteisten sulautettujen järjestelmien kehittäjille mahdollisuus nopeasti ja helposti kehittää itsetietoisia koneita, jotka pystyvät automaattisesti oppimaan ja ymmärtämään ympäristönsä, tunnistamaan hahmoja ja havaitsemaan anomaliat, ennakoimaan ongelmia ja tuloksia, ja tekemään kaiken tämän edullisella mikrokontrolleripohjaisella alustalla reunassa, jossa data generoidaan ja missä sen luetaan.

Ratkaisu, johon jo aikaisemmin viittasin, on Cartesiam.AI:n NanoEdge AI Studio. Tämän sekä Windows 10:ssä että Linux Ubuntussa toimivan IDE-ympäristön avulla sulautetun järjestelmän kehittäjä valitsee ensimmäiseksi kohdemikrokontrollerin, joka voi olla Arm Cortex-M0 – M7. Kehittäjä tai suunnittelija myös määrittää ratkaisulle varatun maksimimäärän RAM-muistia. Jos taitosi ovat vähän ruosteessa tai tämä on sinulle uutta, hyvä paikka aloittaa (uudelleen) on V2M-MPS2-0318C Arm Cortex-M Prototyping System+ (kuva 1).

V2M-MPS2-0318C on osa Arm Versatile Expressin kehitysalustavalikoimaa. Se sisältää suhteellisen suuren FPGA:n prototyyppien kehittämiseksi Cortex-M-pohjaisia projekteja varten. Tätä varten se on varustettu kaikkien Cortex-M-prosessorien kiinteillä ja salatuilla FPGA-toteutuksilla. Lisäksi se sisältää lukuisia hyödyllisiä oheislaitteita, esimerkkinä PSRAM, Ethernet, kosketusnäyttö, audio, VGA LCD, SPI ja GPIO.

Seuraavaksi kehittäjän on valittava käytettävien antureiden lukumäärä ja tyyppi; Cartesiam.AI:n tarjoamassa menetelmässä on se etu, että käytettävillä antureilla ei ole maksimäärää. Nämä voivat sisältää:

• Yksi-, kaksi- ja kolmeakseliset kiihtyvyysanturit (periaatteessa minkä tahansa taajuuden vibraatioanalyysi)
• Magneettiset anturit
• Lämpötila-anturit
• Mikrofonit (äänentunnistukseen)
• Hall-anturit moottorinohjaukseen
• Sähkövirran monitoroinnin anturit

On tärkeää huomata, että kehittäjien ei ole pakko määrittää osanumeroita – yleinen anturityyppi riittää.

Seuraava vaihe on ladata anturia vastaava data; toisin sanoen ladata kutakin anturia vastaavaa yleistä dataa, jotta järjestelmä saa idean siitä miten kyseisen anturin kanssa toimitaan.

NanoEdge AI Studio on varustettu ekstensiivisellä valikoimalla AI/ML-rakennuspalikoita, joiden avulla voidaan synnyttää ratkaisu yli 90% teollisuuden AI/ML-tehtävistä. Kun järjestelmälle on annettu kohdemikrokontrolleri, antureiden lukumäärät ja tyypit sekä sen tavallisesti vastaanottaman anturidatan yleinen tyyppi, järjestelmä generoi parhaan AI/ML-kirjastoratkaisun yli 500 miljoonasta mahdollisesta vaihtoehdosta.

Jos kehittäjä haluaa, tätä ratkaisua voidaan testata samalla tietokoneella NanoEdge AI Studio IDE -ympäristön sisältämällä emulaattorilla. Tämän jälkeen se upotetaan mikrokontrollerin pääohjelman sisälle, käännetään ja ladataan mikrokontrolleripohjaiseen järjestelmään, joka on tarkoitus liittää kohdekoneeseen.

Oletetaan nyt pelkän esimerkin vuoksi että meillä olisi kaksi tyhmää konetta, joita haluaisimme tehdä älykkäiksi. Yki laitteista voisi olla pumppu ja toinen generaattori. Oletetaan myös että luomme tässä esimerkissä yksittäisen ratkaisun käyttäen lämpötila-anturia sekä kolmen akselin kiihtyvyysanturia. Molemmissa koneissa käytetään samaa ratkaisua (kuva 2).

Kuva 2: Sen jälkeen kun NanoEdge AI Studio IDE:ssä on luotu ja (haluttaessa) testattu AI/ML-kirjasto, kyseinen kirjasto upotetaan pääohjelman sisään, käännetään ja ladataan mikrokontrolleripohjaiseen järjestelmään, joka yhdistetään kohdekoneisiin. Opetusvaiheen (tyypillisesti järjestelmää käytetään viikko, 24 tuntia per päivä) jälkeen päättelykonetta voidaan käyttää anomalioiden havaitsemiseen ja raportoimiseen sekä tuloksien ennakointiin. (Kuvan lähde: Max Maxfield)

Näillä kahdella koneella on tietenkin täysin erilaiset ominaisuudet. Tosiasiassa kahdella muutoin identtisellä koneella voi olla hyvin erilaiset ominaisuudet niiden sijainnista ja ympäristöstä riippuen. Esimerkiksi kahdella identtisellä toisistaan 20 metrin etäisyydelle samassa tehtaassa samassa huoneessa sijoitetulla pumpulla saattaa olla erilaiset vibraatioprofiilit riippuen niiden asennuksesta (toinen betonille, toinen puisten lattiapalkkien päälle) ja niihin kiinnitettyjen putkien pituudesta (sekä muodosta ja materiaalista).

Avain koko prosessiin on se, että AI/ML-ratkaisut koulutetaan yksilöllisesti hyväksi tunnetussa koneessa. Tämä koulutus kestää tyypillisesti viikon ja sitä ajetaan keskeytyksettä 24 tuntia päivässä. Tämän ansiosta järjestelmä voi oppia normaalit lämpötilavaihtelut ja vibraatiokäyttäytymisen. Koulutusta voidaan jatkaa tietenkin haluttaessa jatkaa myöhemmin mallien hienosäätämiseksi sekä vuodenaikojen ympäristövariaatioiden ja muiden odotettavien muuttujien huomioon ottamiseksi.

Niin pian kun ratkaisut on koulutettu, ne voivat alkaa tekemään havaintoja kaikesta tulevasta datasta, tunnistaa malleja ja anomalioita, ennakoida ongelmia ja tuloksia sekä esittää päätelmät kojelaudassa haluttaessa sekä teknistä analyysiä että johdon analyysiä varten.

Yhteenveto

Näen NanoEdge AI Studion merkittävänä muutostekijänä. Se on intuitiivinen ja sen avulla sulautettujen järjestelmien kehittäjät voivat käyttää vähävirtaisia ja edullisia Arm Cortex-M -mikrokontrollereja – joita on sulautettu miljardeihin laitteisiin maailmanlaajuisesti – voidakseen integroida nopeasti, helposti ja edullisesti AI/ML teollisuusjärjestelmiin, muuntaen tyhmät koneet älykkäiksi koneiksi, ja tällä tavalla kasvattaen tuottavuutta ja tehokkuutta sekä samalla saavuttaen paljon odotettuja säästöjä käyttökuluissa.

Referenssit

1: https://www.vxchnge.com/blog/iot-statistics

2: https://securitytoday.com/articles/2020/01/13/the-iot-rundown-for-2020.aspx

3: https://www.helpnetsecurity.com/2019/06/21/connected-iot-devices-forecast/

4: https://securitytoday.com/articles/2020/01/13/the-iot-rundown-for-2020.aspx

5: https://www.kleinerperkins.com/perspectives/the-industrial-awakening-the-internet-of-heavier-things/

6: https://www.ibm.com/downloads/cas/3RL3VXGA

7: https://newsroom.cisco.com/press-release-content?articleId=1847422

8: https://www.idc.com/getdoc.jsp?containerId=US44363318

9: https://www.statista.com/statistics/935382/worldwide-microcontroller-unit-shipments/