GAMMA FACET: Új megközelítés az univerzális magyarázatokhoz Gépi tanulási modellek

(Konstantin Hemker)

Szerzők: Jan Ittner, Konstantin Hemker & Malo Grisard

A mesterséges intelligencia (AI) technológiáinak gyors fejlődése mindennapi fejlődő eszközkészlet a valós világ legösszetettebb problémáinak és folyamatainak elemzésére is. A legmodernebb gépi tanulási algoritmusok lehetővé teszik a döntéshozók számára, hogy pontosan megjósolják az üzleti szempontból kritikus eredményeket, mint például a költség, a sebesség, a minőség vagy a hozam. De a mesterséges intelligencia valódi üzleti értéke gyakran nem csupán az eredmények előrejelzésében rejlik (mely ügyfelek valószínűleg felmondják a szerződésüket?), Hanem a magyarázatban és a ezeknek az eredményeknek az optimalizálása (mit kell tennünk a nagy értékű ügyfelek megtartása érdekében?).

Ezenkívül a menedzser hajlandó elfogadni a gépi tanulás használatát a napi döntések meghozatalához az algoritmus iránti bizalmától függ, amihez viszont meg kell érteni, hogy az AI-modell hogyan jósol és dönt. Az AI-modellek megmagyarázásának szükségessége még fontosabbá válik, mivel a vállalatok egyre nagyobb tudatosságot mutatnak az etikus mesterséges intelligencia ról, és igyekeznek olyan AI-modelleket tervezni, amelyek képesek elfogulatlan, biztonságos és felelős döntéshozatalra.

Kooperatív játékelmélet használata a funkciók közreműködésének megmagyarázására

Az ember által megmagyarázható mesterséges intelligencia az elmúlt években hatalmas előrelépéseket tett, különösen a Shapley Additive Explanations (SHAP), a kooperatív játékelméletet alkalmazó egységesítő elmélet és algoritmus megérkezésével. hogy elmagyarázza a gépi tanulási modell egyes előrejelzéseit. A SHAP annyira vonzóvá teszi, hogy a fejlett matematikai alapok ellenére az eredmények még az általános közönség számára is intuitívak.

A SHAP számszerűsíti a modell összes változójának hozzájárulását az adott előre jelzett eredményhez. Például használhatunk egy modellt a páciens cukorbetegség kialakulásának kockázatának előrejelzésére olyan változók alapján, mint a súly, az életkor és a testmozgási szokások. A modell elmondhatja, hogy a kockázat 67%. A SHAP tovább megy, elmondva például, hogy a beteg életkora 5% -kal növeli a cukorbetegség kockázatát, míg súlya 2% -kal csökkenti.

A modellellenőrzés és a virtuális kísérletek tisztázó szerepe

A SHAP rendkívül hasznos módszert kínál az egyes előrejelzések magyarázatára. A közelmúltig azonban csak korlátozottan voltak lehetőségek a modell egészének megmagyarázására – általában arra, hogy elmagyarázzák a változók működését és kölcsönhatását, hogy előrejelzéseket hozzanak létre. A GAMMA FACET egy új, holisztikus megközelítést mutat be a gépi tanulási modellek magyarázatára. Két szempontból teszi ezt: Először egy újonnan kifejlesztett modellellenőrzés algoritmust használ arra, hogy elmagyarázza, hogyan működnek együtt a prediktív modell változói az eredmények előrejelzéséhez, sokféle előrejelzés magyarázatán keresztül azonosítva a mintákat. Például a GAMMA FACET úgy találhatja, hogy a súlyt és a testtömeget együtt kell figyelembe venni a cukorbetegség kockázatának felmérése során, míg a testtömeg-index és a magasság / derék arány felcserélhető. Másodszor, szimulációs megközelítést alkalmaz annak meghatározására „virtuális kísérletek” során, hogy a kulcsfontosságú tényezők szisztematikus változásai hogyan befolyásolják az előre jelzett eredményeket, például azt, hogy az életkor növekedése hogyan befolyásolja a cukorbetegség kockázatát a betegek populációjában.

Esettanulmány: A vízfúrások meghibásodásainak megelőzése

Ezeknek a fogalmaknak a legjobb a valós példák feltárása . A vízkút fúrása nagyon veszélyes és költséges. Az ilyen fúrások költségeit az okozza, hogy mennyi idő kell a kút befejezéséhez, hogy elkezdhessék belőle a vizet. E költségek csökkentése érdekében a fúrókat általában arra ösztönzik, hogy gyorsabban végezzenek fúrást – ezt a behatolási arány ként (ROP) mérik. A talaj jellemzőitől függően a napi árak 30 ezer dollár és 250 ezer dollár között változhatnak. De van egy kompromisszum: A gyorsabb fúrás növeli az olyan események kockázatát, mint a formáció összeomlása vagy a gáz beszivárgása. Ezért felépítünk egy gépi tanulási modellt, hogy megértsük a fúrási sebességnek az esemény kockázatára gyakorolt ​​hatását, más kockázati tényezők összefüggésében.

Az egyértelműség kedvéért ehhez a példához egyszerűsített adatkészletet használunk. . Az adatkészlet 500 megfigyelést tartalmaz, mindegyik sor a múlt fúrási műveletét reprezentálja, valamint egy bináris indikátort arról, hogy történt-e kútfúrási esemény a művelet során.

A jelenlegi és a korábbi működési feltételek alapján prediktív algoritmus használható a fúrókezelő figyelmeztetésére magas balesetveszély. Az üzemeltetőknek lehetőségük lenne a fúrási paraméterek beállítására. A mikor cselekedni tudása azonban gyakran nem elég.Az üzemeltetőnek azt is meg kell értenie, hogy miért vannak incidensek, és melyek azok az optimális fúrási feltételek, amelyek egyensúlyba hozzák a fúrási költségeket egy lehetséges esemény költségével. A GAMMA FACET segíthet ezeknek a kiválasztható betekintéseknek a megvalósításában.

scikit-learn és a Model Pipeline

Megmagyarázható gépi tanulási modellünk gerincének kialakításához először egy olyan modellvezetéket kell felépítenünk, amely lehetővé teszi számunkra, hogy a modell összes kimenetét visszavezetjük a kezdeti adatbevitelre, az összes átalakítási és képzési lépésben.

A GAMMA FACET a scikit-learn köré épül, amely a Python gépi tanulásának de facto ipari szabványa. A scikit-learn a regressziós és osztályozási algoritmusok széles skáláját kínálja. Univerzális megközelítést kínál a gépi tanulási folyamatok felépítéséhez, kombinálva az adatok előfeldolgozását a tényleges modellillesztéssel, egyetlen integrált munkafolyamatban.

A FACET három alapvető módon fokozza a scikit-learn t. :

  1. Végponttól végpontig tartó szolgáltatás nyomon követhetősége : Bár a natív scikit-learn ki van építve a numpy körül, és az összes kimenetet numerikus tömbként állítja elő, a FACET több mint 150 scikit-learn transzformátor, regresszor és osztályozó továbbfejlesztett változatát kínálja, amelyek az összes kimenetet pandas adatkeretként adják le. Ezenkívül a FACET tartalmaz attribútumokat a származtatott tulajdonságok nevének visszaképzéséhez azokhoz a tulajdonságokhoz, amelyekből származnak. Ez a hozzárendelés elengedhetetlen, ha a gépi tanulási folyamatban továbbiakban a funkciókra név szerint hivatkozunk.
  2. Továbbfejlesztett pipelining : A FACET további kétlépcsős osztályokat vezet be, amelyek tartalmaznak egy előfeldolgozási lépést (amely maga is egy vezeték lehet) és egy tanulói lépést. Tapasztalatunk az, hogy ez a látszólag kisebb kiegészítés lényegesen tömörebb és olvashatóbb csővezeték-kódhoz vezet.
  3. Fokozott validálás : A FACET keresztellenőrzőket vezet be a bootstrapping több változatához, egy olyan statisztikai technikához, amely különösen releváns a FACET szimulációs képességeinek összefüggésében.

Visszatérve a fúrási példára, itt megtudhatjuk, hogyan a FACET szolgáltatásának nyomon követhetőségét felhasználva létrehozhat egy folyamatot:

Amint azt ebben a kódrészletben láthatja, a fenti csővezeték majdnem teljesen ugyanolyan, mint a tiszta scikit-learn . Figyeljük meg azonban, hogy az összes csővezetéket, transzformátort és becslőt importáljuk a FACET sklearndf csomagjából, és hogy az ismerős scikit-learn osztályok nevei „DF” utótag. Vegye figyelembe a speciális ClassifierPipelineDF -t is, a FACET egyik továbbfejlesztett csővezetékét, amely egy opcionális előfeldolgozási lépést tartalmaz, valamint egy későbbi tanulói lépést, amely garantáltan osztályozó lesz. Amint az a kimeneten is látható, az előfeldolgozás eredménye egy adatkeret, amely megőrzi az összes szolgáltatásnevet.

Ezután a modell hiperparamétereit szeretnénk hangolni a FACET . A LeanerRanker hasonlóan működik, mint a scikit-learn rácskeresője, de sokkal könnyebbé teszi, hogy többféle modell versenyezzen egymással, ahelyett, hogy optimalizálná a hiper- egyetlen modell paraméterei:

Modellmagyarázatok: Mi okozza az eseményeket?

Most már van egy hangolt és betanított modellünk, amely megjósolja a fúrási műveletek incidens kockázatát. De proaktívabbak akarunk lenni, mint a modell bevezetése és az előre jelzett kockázatokra ad-hoc válaszadás. Ehelyett azt akarjuk tudni, hogy a modell mit tanult arról, hogy miért és mikor történnek incidensek. Azt akarjuk, hogy a modell segítsen megérteni, hogyan tudjuk szisztematikusan megváltoztatni a fúrógépek működését az incidens kockázatának csökkentése érdekében.

A FACET kétféle módszer kombinációjaként közelíti meg a modell magyarázatát: >

  • A globális jellemzők közötti interakciók magyarázata : Ez a módszer elmondja nekünk, hogy a modell mit tanult arról, hogy a funkciók hogyan járulnak hozzá egyénileg és együttesen is az eredményekhez. A FACET egy új algoritmust vezet be, amely minden jellemzőpár esetében számszerűsíti a szinergiát, a redundanciát és a függetlenséget (további részletekért lásd alább). Ez az algoritmus a SHAP vektor dekompozícióján alapul, egy matematikai keretrendszeren, amelyet a globális modell magyarázatához fejlesztettünk ki, és amelyet egy következő publikációban részletezünk.
  • Modellalapú szimulációk : Ez a módszer lehetővé teszi számunkra, hogy meghatározzuk, hogyan segítik a szisztematikus jellemzőváltozások a a kívánt eredmény, ebben az esetben a fúró meghibásodásának kockázatának minimalizálása érdekében. Ezt az eredményt úgy érjük el, hogy szintetikus mintákat készítünk egy értéktartományhoz, majd a modell segítségével értékeljük az előre jelzett kockázat változásait. Amint az alábbiakban látni fogja, a globális jellemzők közötti interakciók (azaz az 1. módszer) megértése elengedhetetlen lépés annak biztosításához, hogy szimulációink valós körülmények között is érvényesek legyenek.
  • Amikor a fúrási példánkban használjuk , A FACET LearnerInspector osztálya áttekintést nyújt a funkciók interakcióiról a páronkénti szinergia és a redundancia kiszámításával:

    Redundancia és szinergia mátrix

    Az eredmények két olyan mátrixot mutatnak, amelyek bármely tulajdonságpár esetében százalékos arányban közlik a szinergia mértékét és redundancia e két jellemző között.

    Szinergia

    A szinergia az a fok, amelyen a modell egyesíti az egyik jellemző információit a másikkal a cél megjóslásához. Tegyük fel például, hogy a szív- és érrendszeri egészséget jósoljuk életkor és nem alapján, és az illesztett modell összetett interakciót tartalmaz közöttük. Ez azt jelenti, hogy ez a két tulajdonság szinergikus a kardiovaszkuláris egészség előrejelzésében. Továbbá mindkét jellemző fontos a modell számára, és bármelyikük eltávolítása jelentősen befolyásolná a teljesítményt. Tegyük fel, hogy az életkor fontosabb jellemző, mint a nem, és így az életkor jobban hozzájárul a kombinált előrejelzéshez, mint a nem. Ez az aszimmetrikus hozzájárulás azt jelenti, hogy a (kor, nem) szinergiája kisebb, mint a (nem, életkor) szinergiája. Ha másképp gondolkodik el, képzelje el, hogy a jóslat egy koordináta, amelyet el akar érni. Kiindulópontodból az életkor sokkal közelebb visz ehhez a ponthoz, mint a nem, azonban mindkettőre szükséged van, hogy odaérj. A szinergia azt a tényt tükrözi, hogy a nem az életkortól kezdve több segítséget kap (a nem szempontjából nagyobb szinergia), mint az életkor a nemtől (az életkor szempontjából alacsonyabb szinergia) az előrejelzés eléréséhez.

    Ez egy fontos pont: a szinergia a globális információ természetesen aszimmetrikus tulajdonsága, két egymással kölcsönhatásban lévő tulajdonság hozzájárul a modell előrejelzéséhez. A szinergiát százalékban fejezzük ki, 0% (teljes autonómia) és 100% (teljes szinergia) között. Ne feledje, hogy a szinergikus jellemzők teljesen korrelálhatatlanok, és rendszeres feltáró elemzéssel nehéz őket észrevenni.

    A szinergiamátrix értelmezéséhez a pár első jellemzője a sor („Perspektíva”), a második pedig az oszlopot tartalmazza. Fúrási példánkban a FACET arról számol be, hogy a forgási sebesség „perspektívájából” az információk 67% -a kombinálva van a bit súlyával a hiba előrejelzéséhez. Ez összefüggésben tűnik ésszerűnek, mivel a nagy bitsúlyú és nagy forgatású fúrás aránytalanul nagy hatással lehet a berendezés kopására, és így drasztikusan növelheti az esemény kockázatát. Érthető, hogy a szinergia a bit súlya szempontjából is magas (61%). Ez azt mondja nekünk, hogy együtt kell megvizsgálnunk a forgási sebességet és a súlyt, hogy megértsük a balesetveszélyhez való hozzájárulásukat.

    Redundancia

    A redundancia annak a foka, ameddig a modell jellemzői megismétli egy második jellemző információit a cél megjóslásához. Tegyük fel például, hogy volt házméretünk és hálószobáink száma a házár előrejelzéséhez. Ezek a funkciók hasonló információkat gyűjtenek, mivel minél több hálószoba van, annál nagyobb a ház és valószínűleg magasabb átlagár. A (hálószobák száma, házméret) redundanciája nagyobb lesz, mint a (házméret, hálószobák száma) redundanciája. A ház mérete ugyanis jobban tudja, hogy a hálószobák száma mennyire jósolja meg a ház árát, és fordítva. Ennélfogva nagyobb a redundancia a hálószobák számának szempontjából. Egy másik módszer arra gondolni, hogy a ház méretének eltávolítása károsabb lesz a modell teljesítményére, mint a hálószobák számának eltávolítása, mivel a ház mérete jobban ellensúlyozhatja a hálószobák számának hiányát. Ez azt is jelenti, hogy a ház mérete fontosabb tulajdonság lenne, mint a hálószobák száma a modellben.

    A fontos pont itt az, hogy a szinergiához hasonlóan a redundancia a globális információs szolgáltatás természetesen aszimmetrikus tulajdonsága. párok rendelkeznek az eredmény előrejelzésével. A redundanciát százalékban fejezzük ki, 0% (teljes egyediség) és 100% (teljes redundancia) között. A redundancia nem feltétlenül észlelhető a feltáró elemzésben, ha két jellemző felesleges, de nincs lineáris összefüggésben.

    A szinergiához hasonlóan a mátrixsor is a „perspektíva” tulajdonság a sor-oszlop jellemzőpárban.Fúrási példánkban két rendkívül redundáns tulajdonság párját figyeljük meg:

    • Az első redundáns jellemző pár a ROP és az IROP. A redundancia mindkét jellemző szempontjából hasonló (75%), mert az egyik a másik inverze, és így a modellben helyettesíthetik az incidens kockázatát. Ez jó példa arra, hogy a FACET képes felvenni a redundanciákat a funkciók között, még akkor is, ha azok nincsenek lineáris összefüggésben.
    • A második redundáns tulajdonságpár a működési mélység és a furatátmérő. A furatátmérő szempontjából az információk 53% -a megismétlődik a művelet mélységével a hiba előrejelzése érdekében. Intuitív módon láthatjuk, hogy miért, mivel a működési mélység és a furat átmérője szorosan kapcsolódik egymáshoz, mivel a fúrók vékonyabb fúrófejeket használnak, amikor mélyebben fúrnak a földbe. A redundancia (a művelet mélysége, a furat átmérője) valamivel alacsonyabb, mint a (furat átmérője, a művelet mélysége) oka, hogy a működési mélység valamivel fontosabb jellemző a modellben.

    A FACET készíthet egy második típusú diagramot, amely nagyon hasznos a szinergia vagy redundancia kapcsolatok hierarchikus klaszterező dendrogramként történő értékeléséhez. Megjegyezzük, hogy ez a megközelítés a redundancia (vagy szinergia) szimmetrikus változatára támaszkodik, amely nemcsak egyszerűsített perspektívát, hanem jellemzők távolságot (1 – metrikus) biztosít a klaszterezéshez. Példánkban a redundancia dendrogram érdekli:

    Facet jellemzői redundancia dendrogram

    A redundancia dendrogram felesleges funkciók csoportjait tárja fel, jelzi a klaszterben lévő jellemzők közötti kölcsönös redundancia mértéke (a bal oldali további jellemzőket egyesítik a dendrogramban, annál erősebb a redundanciájuk), és egy színskálát használva megmutatja a funkció fontosságát az egyes jellemzők és a jellemzők klaszterei szempontjából.

    Két redundáns tulajdonságunk párja egyértelműen felismerhető a dendrogramban, beleértve azok együttes fontosságát is. A penetrációs ráta (ROP) inverz tulajdonságával (IROP) rendkívül redundáns (> 80% redundancia), és mindkét jellemző együttes fontossága 36%. Tekintettel arra, hogy a ROP-t szeretnénk szimulálni, eltávolítjuk az IROP-t, hogy megbizonyosodjunk arról, hogy az általunk szimulált szolgáltatás egyedülállóan hozzájárul-e az eredményhez (részletesebb magyarázatot adunk a következő szakaszban).

    Van érdekes megfigyelés, amikor új redundancia dendrogramot állítunk elő az IROP eltávolítása és a modell átképzése után: A ROP jellemző fontossága 35% -ra emelkedett, jelezve, hogy a ROP átvette a korábbi ROP / IROP klaszter szerepét a ROP magyarázatában összefüggő hozzájárulások az esemény kockázatához.

    Redundancia-összekapcsolási dendrogram a funkció metszése után div id = “038200d258″>

    Funkciófeltöltés szimulálása

    Ellenőrzés után A modell alapján jól megértettük, hogy a modell hogyan jósol, és hogyan hatnak egymásra a prediktorok.

    Ezek a felismerések gyakran egyenesen egy „mi lenne, ha” kérdéshez vezetnének: H ow lehet-e szisztematikusan változtatni egy befolyásolható változót az eredmény javítása érdekében? Példánkban meg akarjuk érteni, hogy a behatolási sebesség változásai hogyan befolyásolják az esemény kockázatát. Gazdasági szempontból a fúrógépkezelők megpróbálnak a lehető leggyorsabban fúrni, miközben fenntartják a biztonságot és csökkentik a meghibásodásokat. Hasonló kérdések vonatkoznak más üzleti összefüggésekre is, ahol a költségek csökkentése, a hozam maximalizálása, az ügyfelek megtartása vagy valóban az üzleti eredmények optimalizálása a cél az adatok alapján.

    A FACET szimulációs megközelítése egy funkciót emel ki, majd futtat. „virtuális kísérletek” sorozata egy értéktartományhoz, minden kísérlethez úgy téve, mintha a szimulált szolgáltatás mindig figyelembe vette volna az egyes történelmi megfigyeléseknél megadott értéket.

    Ezzel a megközelítéssel elengedhetetlen, hogy az általunk szimulált jellemző nem felesleges a modell egyéb jellemzőivel. Ezzel egy megvalósíthatatlan forgatókönyvek létrehozásának a veszélye állna fenn, ha egy tulajdonság értékét módosítanánk, a redundáns testvérét azonban nem. Ha példánkban a ROP-t szimulálnánk egy értéktartományra, de az IROP-t megtartanánk a modellben, akkor valószínűleg megvalósíthatatlan forgatókönyveket hoznánk létre.

    A szimulációt két lépésben hajtják végre: döntünk egy szimulálandó szolgáltatásról, és a FACET partitioner osztályainak egyikét választjuk, hogy az adott szolgáltatás korábban megfigyelt értékeit partíciókra osztjuk. Másodszor, partíciónként egy szimulációt futtatunk, minden alkalommal rögzítve a szimulált szolgáltatás értékét a partíció központi értékén az összes megfigyelés során.

    Ezért példánkban a szimuláció felteszi a kérdést: „Mi lenne az átlagos balesetveszélyem az volt, hogy mindig X m / s ROP-t fúrtam?”A ROP-ot valós számként mérjük, ezért egy ContinuousRangePartitioner -t használunk egy azonos méretű partíciók sorozatának létrehozására a ROP-nál történelmileg megfigyelt értéktartományon belül. Fontos, hogy csak a történelmileg megfigyelt értéktartományon belül szimuláljunk, mivel a modellt ezen a tartományon értékelték ki, és általában nem lesz képes érvényes tartományon kívüli extrapolációkkal előállni.

    1. szimulációs lépés – Felosztja a ROP szolgáltatás megfigyelt értékeit azonos méretű vödrökbe

    Használat a legjobb modell, amelyet korábban a LearnerRanker alapján azonosítottunk, a szimulátor most meghatározza az egyes partíciók átlagos előrejelzett baleseti kockázatát. A FACET támogatja a rendszerindítást, lehetővé téve számunkra, hogy minden szimulációt sokszor megismételjünk az adatok különböző részhalmazaira képzett modell variációin, és a szimulációs eredmények eloszlása ​​alapján számszerűsítsük a szimuláció megbízhatóságának szintjét.

    2. szimulációs lépés – Kimenetek szimulálása a ROP szolgáltatás különböző értékeihez

    A fenti megjelenítés megmutatja a ROP hatását az esemény kockázatára, ugyanakkor a bizalom érzetét is nyújtja a szimulációban. Az x tengely mutatja a különböző partíciókat, amelyekhez a szimulációt futtatták. Az x tengely alatti oszlopok azt mutatják, hogy az eredeti mintában milyen megfigyelések vannak a partíción belül, jelezve az egyes szimulált értékek támogatását. (Vegye figyelembe, hogy a konfidenciaintervallum miként bővül a margók felé, mivel kevesebb partíció tényleges megfigyelt értékét látjuk.) A középső emelkedő vonal az egyes partícióknál a várható medián várható kockázatot jelzi, míg a külső vonalak az összes keresztpartin 95% -os konfidenciaintervallumát mutatják. az érvényesítés elválik a jóslatunktól.

    A szimuláció megerősíti, hogy az esemény valószínűsége jelentősen növekszik a ROP növelésével. Betekintést nyújt a gyorsabb ROP-nál való működés kockázati szintjeibe. Azt is láthatjuk, hogy többször előfordult, hogy a ROP-t veszélyesen magas szinten (> 30ft / h) üzemeltették, ami 70% feletti balesetek valószínűségéhez vezetett.

    Mi következik?

    Üzleti szempontból az, hogy ezekre a „mi van, ha” kérdésekre a válaszok megválaszolása rendkívül értékes a kockázat felmérésének folyamata szempontjából és a jelenlegi folyamatok javításának módjainak megtalálása. Példánkban az utazás itt nem ér véget. A szimuláció eredményei alapján egy következő lépés lehet a fúrás költség-haszon elemzésének elvégzése lassabb vagy gyorsabb ROP-vel, hogy a fúrási költség és a fúrási esemény pénzügyi kockázata között a legjobb kompromisszum érhető el.

    Könnyedén elviheti a GAMMA FACET-et pörgetésre. Egyszerűen conda install gamma-facet -c bcg_gamma -c conda-forge és nézze meg a GitHub adattárat további dokumentációért és bevált példák.

    Köszönetnyilvánítás

    Ez a csomag a gépi tanuláshoz és a modellek magyarázatához két kiemelkedő Python-csomag rendelkezésre állása nélkül nem volt lehetséges:

    1. A scikit-learn biztosítja a tanulókat és a transzformátorokat, amelyek a FACET mögöttes gépi tanulási folyamatát alkotják. Ezenkívül a FACET API-t az alapvető illesztés / átalakítás / előrejelzés paradigmával összhangban alakítottuk ki, hogy az adatkutatók könnyedén megkezdhessék a FACET használatát.

    2. A SHAP Scott Lundberg általi implementációját használják arra, hogy megbecsüljék a szinergiába bomló SHAP vektorokat , redundancia és függetlenség vektorok.

    Vélemény, hozzászólás?

    Az email címet nem tesszük közzé. A kötelező mezőket * karakterrel jelöltük