Zbiranje podatkov za utelešeno umetno inteligenco: teleoperacija, simulacija v realno in industrijski nabori podatkov v letu 2026

Kazalo

Zadnja posodobitev: april 23, 2026

Zbiranje podatkov za utelešeno umetno inteligenco: teleoperacija, simulacija v realno in industrijski nabori podatkov v letu 2026

Ozko grlo za utelešeno umetno inteligenco so podatki, ne računanje. Usposabljanje robotske politike zahteva sinhronizirane tokove dejanj in stanj, ki preprosto ne obstajajo na internetni ravni. Trenutno trije viri zadovoljujejo to povpraševanje. Človeška teleoperacija zagotavlja visokokakovostne demonstracije na račun časa operaterja. Prenos iz simulacije v realno poveča število epizod, vendar uvaja vrzel v natančnosti. Veliki odprti nabori podatkov združujejo prispevke iz številnih laboratorijev in platform.

Zakaj so podatki ozko grlo utelešene umetne inteligence

Računalništvo je sledilo predvidljivi krivulji skaliranja. Gruče grafičnih procesorjev, ki so sposobne učiti modele vida-jezika-akcij (VLA) z milijardo parametrov, so danes komercialno dostopne. Kar se ni skaliralo, so podatki, ki jih ti modeli potrebujejo: parna opazovanja in dejanja, zabeležena med fizično manipulacijo robota, z dovolj raznolikosti nalog in izvedb za ustvarjanje posplošljivih politik.

Jezikovni model lahko v nekaj tednih iz spleta sprejme bilijon žetonov. Nabor podatkov o manipulaciji z roboti je treba ustvariti epizodo za epizodo, pri čemer vsaka zahteva fizičnega robota, resnično ali simulirano okolje, definicijo naloge in bodisi človeškega operaterja bodisi skriptno demonstracijo. Mednarodna zveza za robotiko (IFR) ocenjuje, da je leta 2024 po vsem svetu delovalo več kot 3.9 milijona industrijskih robotov, vendar največji odprti nabori podatkov o manipulaciji vsebujejo približno milijon epizod. Vrzel se ne zmanjšuje hitro.

Izziv se še poslabša, če upoštevamo vrzel v izvedbi: pravilnik, usposobljen na enoročnem manipulatorju s 6 stopnjami svobode, se ne prenese gladko na bimanualnega humanoida ali mobilno bazo z roko. Vsak nov faktor oblike robota učinkovito ponastavi zahteve glede podatkov. Pristopi razvrščanja dejanj (kjer pravilnik oddaja večstopenjska zaporedja dejanj namesto posameznih korakov) zmanjšajo zakasnitev sklepanja, vendar ne zmanjšajo potrebe po raznolikem učnem pokrivanju.

Glede na članek Open X-Embodiment (Padalkar et al., 2023, Google DeepMind et al.) lahko učenje navzkrižnega izvajanja na različnih podatkih o robotih izboljša posplošitev politik, ki presega tisto, kar zagotavljajo nabori podatkov z eno samo izvedbo. EVST to obravnava z ocenjevanjem kakovosti naborov podatkov z navzkrižnim izvajanjem kot del svojega internega procesa ocenjevanja pri izbiri načrtovanja gibanja, razširjenega z umetno inteligenco, za svojo linijo robotov celotnega razpona od 3 do 800 kg. Za strojno stran te podatkovne strategije glejte Rešitve EVST Embodied AI, vključno s humanoidnimi roboti, spretnimi rokami za zbiranje podatkov, štirinožnimi roboti in pilotnimi platformami za razvoj utelešene umetne inteligence.

Trije glavni viri podatkov: prednosti in omejitve

Teleoperacija

Teleoperacija zajema demonstracije strojne opreme ciljnega robota v strokovni kakovosti. Operater upravlja robota na daljavo prek rok za vodenje in sledenje, VR-očal, eksoskeletnih oblek ali ročnih vmesnikov, medtem ko sistem sinhrono beleži vsak kot sklepa, stanje prijemala, odčitek sile in posnetek kamere. Ker podatki prihajajo od človeka, ki izvaja dejansko nalogo na dejanskem robotu, je ujemanje med dejanjem in stanjem natančno, vrzel med izvedbenimi primeri pa je ničelna.

Omejitev je prepustnost. Izkušeni teleoperaterji ustvarijo približno 5–50 epizod na uro, odvisno od zahtevnosti naloge, kakovost podatkov pa se poslabša, ko se operaterji utrudijo. Teleoperacija se tudi ne more prilagoditi za okrevanje po napakah brez premišljene zasnove protokola: če operaterji vedno uspejo, se politika nikoli ne nauči okrevati po motnjah.

Prenos iz simulatorja v resničnost

Fizikalni simulatorji (MuJoCo, NVIDIA Isaac Sim, Isaac Lab, PyBullet) raziskovalcem omogočajo ustvarjanje milijonov robotskih epizod s skoraj ničelnimi mejnimi stroški. En sam gruča grafičnih procesorjev lahko čez noč zažene na tisoče vzporednih simulacijskih primerkov. Stroški se pokažejo ob uvajanju: pravilniki, usposobljeni za simulacijo, pogosto odpovejo, ko se soočijo z dinamiko stika v resničnem svetu, šumom senzorjev in vizualnimi variacijami, ki jih simulator ni natančno posnemal. Zapolnitev te vrzeli med simulacijami in realnostjo je aktivno raziskovalno področje.

Internetni video in pasivno opazovanje

Veliki modeli vizualnega jezika, predhodno naučeni na internetnih videoposnetkih, prinašajo splošno razumevanje prizora, kar pomaga pri utemeljitvi naloge. Arhitektura pi0 podjetja Physical Intelligence in podobne zasnove VLA uporabljajo video predhodno učenje za izpopolnjevanje manipulacijskih veščin pred natančnim uglaševanjem na demonstracijah robotov. Omejitev je, da video ne ponuja oznak dejanj: video prikazuje roko, ki prime predmet, vendar ne beleži uporabljene sile ali kotov sklepov enakovredne robotske roke. Modeli inverzne dinamike lahko delno sklepajo o dejanjih iz videoposnetka, vendar nastale psevdooznake vsebujejo šum.

Strojna oprema in protokoli za teleoperacijo

Izbira vmesnika za teleoperacijo vpliva tako na kakovost podatkov kot na prepustnost zbiranja. Spodaj so navedeni sistemi, ki so bili najbolj aktivni v raziskovalnih in komercialnih programih v letih 2025–2026.

Vodilno-sledilniški orožji: ALOHA in mobilni ALOHA

ALOHA (cenovno nizki stroški odprtokodne strojne opreme za bimanualno teleoperacijo) so razvili na Stanfordu in uporablja dve poceni vodilni roki, ki ju operater premika ročno, medtem ko dve usklajeni sledilni roki na robotu posnemata gibanje v realnem času. Bimanualna zasnova zajema dvoročna opravila, ki jih enoročni sistemi ne morejo. Mobilni ALOHA razširja platformo na mobilno podlago. ALOHA 2, izdan leta 2024, je izboljšal natančnost sledenja sklepov in ergonomijo operaterja. Stroški strojne opreme za par vodilni-sledilni so manjši od 20,000 dolarjev, kar je spodbudilo uporabo v številnih akademskih laboratorijih.

Vmesniki za namestitev na zapestje: UMI

Univerzalni manipulacijski vmesnik (UMI) univerz Stanford in Columbia na ročni prijemalnik namesti kamero ribjega očesa in kodirnik. Operater fizično demonstrira nalogo v okolju, medtem ko prijemalnik beleži položaj in stanje prijema končnega efektorja. UMI ločuje zbiranje podatkov od robota: demonstracije se lahko zbirajo na terenu in kasneje preusmerijo na različne izvedbe robotov. Zaradi tega je še posebej uporaben za zbiranje podatkov o manipulaciji v naravi zunaj laboratorijskega okolja.

VR in naglavni zasloni

Apple Vision Pro in Meta Quest 3 se oba preučujeta kot vmesnika za teleoperacijo. Privlačnost je bimanualno sledenje rok s šestimi stopnjami svobode z intuitivnim upravljanjem operaterja. Inženirski izziv je preusmeritev: kinematika človeške roke (pet prstov, 27 sklepov) se mora preslikati na ukaze robotskega končnega efektorja (običajno prijemala z 1 stopnjo svobode ali spretne roke z 12–16 stopnjami svobode). Brez skrbne preusmeritve posneti prikazi vsebujejo namero operaterja, ne pa tudi neposredno izvedljivih robotskih dejanj.

Eksoskelet in zajemanje celotnega telesa

Za humanoidne robote, ki potrebujejo podatke o gibanju celotnega telesa (vključno z gibanjem v kombinaciji z manipulacijo), eksoskeletne obleke zajemajo kinematiko celotnega telesa s frekvenco vzorčenja nad 100 Hz. AgiBot uporablja pristop, ki temelji na eksoskeletu, za zbiranje podatkov o manipulaciji humanoidov za svoj nabor podatkov AgiBot World. Teleoperacija Fourier GR-1 se podobno opira na nosljivo napravo za zajemanje, ki se ujema s konfiguracijo sklepov robota.

Slika in velike komercialne flote

Figure AI upravlja lastniško floto teleop robotov v svoji proizvodnji BMW. Model vztrajnika podatkov, v katerem vsak nameščeni robot zbira nove epizode, ki se vrnejo v usposabljanje, je prav tako osrednjega pomena za razvojno strategijo Tesla Optimus. Ti sistemi z zaprto zanko zbirajo industrijske podatke s hitrostjo, ki je odprti akademski nabori podatkov ne morejo doseči.

Primerjava platform za teleoperacijo

Platforma Zajeta stopnja ostrine Stroškovna raven Ocenjena prepustnost (epizod/uro) Utelešenje Fit Ključna moč
ALOHA 2 (Stanford / Trossen) 14 (dvojni, 7 vsak) Nizka (strojna oprema ~15–20 tisoč USD) 10-30 Bimanualna manipulacija namizja Odprtokodno, preizkušeno v usposabljanju za politiko ACT
UMI (Stanford / Columbia) 6 (končni efektor + prijem) Zelo nizka (~$500 ploščad) 20-60 Enoročno, ponovno ciljanje Zbiranje v naravi, robot ni potreben
Apple Vision Pro naprava Do 52 (ročne orientacijske točke) Srednja (~3.5 tisoč USD HMD + oprema) 10-25 spretne roke / bimanualne roke Intuitiven občutek za upravljavca; prostorske zvočne povratne informacije
Meta Quest 3 ploščad Do 26 (ročna + krmilnik) Nizko–srednje (~500 USD HMD + oprema) 10-25 Dvoročni / mobilni podstavek Dostopni stroški; aktiven raziskovalni ekosistem
Eksoskelet AgiBot A2 Celoten zgornji del telesa (~44) Visoka (lastniška) 5-15 Humanoidno celo telo Koordinacija celotnega telesa za trening humanoidov
Fourier GR-1 teleoptični objektiv Zgornji del telesa + roke (~40) Visoka (lastniška) 5-15 GR-1 humanoid Ujemajoča se kinematika, brez izgube pri ponovnem ciljanju
Slika lastniške flote Popolni humanoid Zelo visoka (lastniška) V obsegu flote (nerazkrito) Slika 02 humanoid Vztrajnik podatkov med uvajanjem, tovarniški podatki BMW

Opomba: podatki o pretočnosti so približni razponi, vzeti iz objavljenih raziskav in poročil raziskovalcev. Spretnost posameznega operaterja in kompleksnost naloge pomembno vplivata na rezultate.

Javni nabori podatkov: Open X-Embodiment, DROID, BridgeData, RoboSet, RH20T, AgiBot World

Ekosistem odprtih naborov podatkov se je od leta 2022 hitro razširil. Spodaj je pregled najpogosteje citiranih zbirk v začetku leta 2026.

Odprta X-izvedba (OXE) in RT-X

OXE, ki ga je sestavil Google DeepMind s 33 sodelujočimi institucijami, združuje več kot milijon epizod za več kot 22 tipov robotov. Povezani modeli RT-X so pokazali, da usposabljanje na združenih podatkih o navzkrižnih izvedbah prekaša izhodišča za posamezne izvedbe pri posploševalnih merilih uspešnosti. OXE je izdan pod mešanico licenc CC-BY in Apache 2.0, odvisno od sodelujoče institucije. Dostop je mogoč prek spletnega mesta RT-X in HuggingFace.

DROID

Podatki o interakciji med roboti (DROID) so bili zbrani v 13 severnoameriških raziskovalnih laboratorijih z uporabo standardizirane nastavitve Franka Panda z vmesnikom za teleoperacijo v slogu ALOHA. Vsebuje približno 76,000 epizod različnih gospodinjskih in namiznih manipulacijskih nalog. Standardizirana strojna oprema na različnih lokacijah uvršča DROID med najčistejše obsežne manipulacijske nabore podatkov za kloniranje vedenja in poskuse RLHF.

BridgeData V2

BridgeData V2, ki sta ga razvila univerza UC Berkeley in Stanford, vsebuje približno 60,000 demonstracij za najrazličnejše naloge manipulacije z mizami. Uporablja roko WidowX in je znan po raznolikosti nalog (več kot 70 različnih kategorij nalog), zaradi česar je pogosta osnova za fino nastavitev modelov VLA. Izdano pod licenco CC-BY 4.0.

RoboSet

RoboSet iz IIT Delhi in sodelavcev zagotavlja podatke o večopravilni kuhinjski manipulaciji, zbrane s Franka Pando. Vključuje opazovanja RGB-D in jezikovne opombe za vsako epizodo. RoboSet je zasnovan posebej za podporo jezikovno pogojenega vrednotenja politik, zaradi česar je uporaben za testiranje posploševanja po navodilih.

RH20T

RH20T (Robot-Human 20 Tasks) je obsežen nabor podatkov za manipulacijo, bogat s stiki, ki vključuje sinhronizirano robotsko propriocepcijo, RGB video, globinske, taktilne in zvočne tokove. Zaradi multimodalne bogatosti je RH20T referenca za raziskovalce, ki delajo na politikah, ki potrebujejo zaznavanje stikov, ne le vizualno opazovanje.

Svet AgiBotov

AgiBot World je nabor podatkov za manipulacijo humanoidov, ki ga je izdelalo kitajsko podjetje za robotiko AgiBot z uporabo lastnega cevovoda za zbiranje podatkov na osnovi eksoskeletov. Osredotoča se na naloge manipulacije humanoidov s celotnim telesom in predstavlja enega prvih obsežnih naborov podatkov, ki je posebej namenjen humanoidnim oblikovnim faktorjem v industrijskem obsegu. AgiBot World je na voljo pod odprto raziskovalno licenco za nekomercialno uporabo.

Referenca nabora podatkov javne utelešene umetne inteligence

Podatkovni niz Lastnik / Vodja Približno število epizod Zajete izvedbe Licenca dostop
Odprta X-izvedba (OXE) Google DeepMind + 33 partnerjev ~1,000,000+ 22+ vrst robotov CC-BY / Apache 2.0 (na sodelavca) Spletna stran RT-X, HuggingFace
DROID 13 severnoameriških laboratorijev ~ 76,000 Franka Panda (standardizirana) CC BY 4.0 droid-nabor-podatkov.github.io
BridgeData V2 Univerza v Berkeleyju / Stanford ~ 60,000 Roka WidowX CC BY 4.0 rail.eecs.berkeley.edu
RoboSet IIT Delhi in drugi. ~100,000+ (poročano) Franka Panda CC BY 4.0 HuggingFace
RH20T Večinstitucionalno (CN/EU) ~110,000+ (poročano) Več vrst rok CC-BY-NC 4.0 rh20t.github.io
Svet AgiBotov AgiBot (Kitajska) ~1,000,000 (ciljno) Humanoid AgiBot Odprte raziskave (nekomercialne) Portal AgiBot

Število epizod in licenčni pogoji izvirajo iz dokumentov o naborih podatkov in uradnih repozitorijev od začetka leta 2026. Pred uporabo preverite trenutne pogoje.

Sim-to-Real Stack: Isaac Sim, MuJoCo, Cosmos in randomizacija domen

Simulacija prilagaja generiranje podatkov. Praktično vprašanje je, kateri simulator uporabiti in kako zmanjšati vrzel do fizične strojne opreme.

MuJoCo

MuJoCo (Multi-Joint dynamics with Contact) ostaja standard za raziskave manipulacij, bogatih s stiki. Njegov fizikalni mehanizem obravnava dinamiko togih teles, mehke stike in sisteme, ki jih aktivirajo tetive, z računsko učinkovitostjo, ki omogoča na tisoče vzporednih epizod učenja na enem samem grozdu GPU. Izdaja odprtokodne različice pod okriljem Google DeepMind leta 2022 je znatno pospešila sprejetje. Večina akademskega kloniranja vedenja in primerjalnih testov RLHF uporablja okolja MuJoCo.

NVIDIA Isaac Sim in Isaac Lab

Isaac Sim deluje na platformi NVIDIA Omniverse in zagotavlja fiziko, pospešeno z grafičnim procesorjem, z visoko natančnostjo upodabljanja. Isaac Lab (prej OmniIsaacGymEnvs) je ogrodje za učenje z okrepitvijo, zgrajeno na platformi Isaac Sim, optimizirano za množično vzporedno učenje politik. Ključna prednost je fotorealistično upodabljanje: Isaac Simove vizualizacije s sledenjem poti zmanjšujejo vrzel v vizualni domeni v primerjavi s poenostavljenimi upodabljalniki MuJoCo, kar je pomembno za učenje politik, ki temeljijo na vidu.

NVIDIA Cosmos

Cosmos je NVIDIA-ina platforma za modeliranje svetovnih temeljev, ki je bila napovedana konec leta 2024. Namesto simulacije fizike iz prvih principov Cosmos ustvarja fotorealistične videoposnetke interakcij robotov in predmetov iz besedilnih ali slikovnih pozivov, usposobljenih na velikih video naborih podatkov. Obljuba je ustvarjanje sintetičnih učnih podatkov, ki so videti dovolj realistični, da zapolnijo vrzel med vizualno simulacijo in realnostjo brez ročno izdelane randomizacije domen. Od začetka leta 2026 Cosmos raziskuje več laboratorijev za učenje robotov kot plast za dopolnjevanje podatkov poleg resničnih demonstracij.

Gaussovo razprševanje in rekonstrukcija prizora

3D Gaussovo razprševanje rekonstruira fotorealistične prizore iz majhnega nabora RGB slik v nekaj minutah namesto v urah. Za učenje robotov to pomeni, da lahko laboratorij skenira novo delovno okolje, rekonstruira Gaussovo prizor in ustvari nove perspektive ali konfiguracije objektov za dopolnitev podatkov, ne da bi pri tem potreboval fizikalni simulator. Ta pristop se integrira v več cevovodov za pretvorbo iz simulacije v realno okolje kot cenovno ugodno orodje za randomizacijo vizualnih domen.

Randomizacija domen in identifikacija sistema

Randomizacija domen med učenjem randomizira parametre simulacije (teksture objektov, svetlobne pogoje, koeficiente trenja, togost robotskih sklepov), s čimer sili politiko, da je odporna na spremembe in ne prilagojena eni sami simulirani konfiguraciji. Identifikacija sistema uporablja komplementarni pristop: natančno meri fizične parametre dejanskega robota (maso, vztrajnost, podajnost sklepov) in te vrednosti uporabi v simulaciji, da zmanjša vrzel pred randomizacijo.

Učno snovanje po učnem načrtu postopoma uporablja randomizacijo. Politika se najprej uri v ozki, čisti simulaciji, nato pa se postopoma srečuje z večjimi variacijami, ko se učinkovitost izboljšuje. Ta postopni pristop pogosto doseže hitrejšo konvergenco kot uporaba popolne randomizacije od samega začetka.

Kompromisi med kakovostjo in količino podatkov

Več podatkov ni samodejno boljše. Sestava nabora podatkov oblikuje, kaj usposobljena politika zmore in česa ne.

Raznolikost nalog je pomembnejša od števila epizod, kadar je cilj splošna politika. Nabor podatkov s 100,000 epizodami iste naloge »izberi in postavi« ustvari specialista. Nabor podatkov z 10,000 epizodami, razporejenimi med 50 vrst nalog, lahko ustvari politiko, ki se po nekaj natančnih prilagoditvah prenese na nove naloge.

Raznolikost izvedb je pomembna za prenos med roboti. Vrednost OXE je prav v tem, da zajema tipe rok, mobilne platforme in spretne roke. Politika, ki je bila predhodno usposobljena na OXE in nato natančno uglašena na novem robotu, običajno presega tisto, ki je bila usposobljena od začetka samo na podatkih istega novega robota, kar je rezultat, ki je dosleden v več objavljenih študijah.

Dolžina epizode in okrevanje po napaki sta podcenjena. Nabori podatkov, ki jih zbirajo izkušeni teleoperaterji, ki redko odpovejo, ustvarjajo politike, ki ne znajo okrevati po motnjah. Namerno vbrizgavanje stanj napak in demonstracije okrevanja bistveno izboljšajo odpornost v resničnem svetu. Nekateri laboratoriji med teleoperacijskimi sejami za ustvarjanje teh podatkov uporabljajo nasprotujoče si motnje.

Glede na opažanja industrije iz več poročil laboratorijev za učenje robotov v letih 2024–2025 se mejna vrednost dodatnih epizod močno zmanjša, ko nabor podatkov pokriva nalogo pri približno 500–1,000 demonstracijah, medtem ko mejna vrednost novih vrst nalog ostaja visoka do tisoč različnih nalog. EVST to upošteva pri strukturiranju celic za zajemanje pilotnih podatkov in daje prednost širini naloge pred kopičenjem ponavljajočih se epizod.

Premisleki o industrijskih podatkih

Zbiranje podatkov v tovarni nalaga zahteve, ki jih akademske teleoperacijske nastavitve običajno ne upoštevajo.

Prva zahteva je deterministično beleženje. V proizvodni celici mora biti časovni žig na odčitku spojnega dajalnika sledljiv do reference stenske ure s podmilisekundno natančnostjo. Krmiljenje preko vodila EtherCAT 1 kHz, ki je standardno pri industrijskih robotih (vključno s tistimi v liniji EVST), zagotavlja deterministično časovno osnovo, ki omogoča obvladljivo sinhronizacijo več senzorjev. Sistem, ki deluje s frekvenco 1 kHz, generira 1,000 vzorcev stanja spoja na sekundo na os; poravnava tega toka s posnetki kamere s frekvenco 30–60 sličic na sekundo in podatki o sili in navoru s frekvenco 500 Hz zahteva disciplinirano arhitekturo strojne opreme za časovno žigosanje, ne pa programskega medpomnilnika.

Varnostne oznake so potrebne, kadar epizode vključujejo skorajšnje nesreče, aktivacije zasilne zaustavitve ali kršitve omejitev sile. Te oznake so potrebne tako za skladnost s predpisi kot za politike usposabljanja, ki razumejo stanja, pomembna za varnost. Industrijski krmilniki, ki beležijo vzroke zasilne zaustavitve in prekoračitve navora spojev na ravni strojne opreme, omogočajo enostavno obvladovanje tega označevanja.

Opombe o času cikla povezujejo epizode robota z rezultati proizvodnje. Ker vemo, da je epizoda 4,712 opravila montažo v 8.3 sekunde z ničelnimi oznakami kakovosti, povezuje podatke o učenju robota s sistemom MES in omogoča izbiro visokokakovostnih demonstracij za usposabljanje.

Metapodatki, povezani z MES, so most. Ko sistem za beleženje podatkov robota zapiše datoteke epizod s priloženimi ID-ji opravil MES, vrstami delov in rezultati kakovosti, je mogoče nastali nabor podatkov programsko filtrirati. Epizode, povezane s predelavo, odpadki ali preglasitvijo operaterja, je mogoče izključiti ali obravnavati kot demonstracije napak.

V praksi pri naknadni vgradnji pilotne celice za zajem podatkov najpogostejše ozko grlo ni zmožnost robota za beleženje podatkov, temveč omrežna arhitektura celice. Industrijski ethernetni segmenti, ki so bili zasnovani za komunikacijo med PLC-jem in robotom s hitrostmi pod kHz, niso vedno dimenzionirani za pasovno širino neprekinjenih večkamernih videoposnetkov in propriocepcijskih tokov. Celica, ki poganja dve kameri 1080p s 30 sličicami na sekundo ter šestosne podatke o sili in stanja sklepov, ustvari približno 150–300 MB surovih podatkov o epizodah na minuto. Načrtovanje infrastrukture za shranjevanje in omrežja pred uvedbo se izogne ​​kasnejšim stroškom naknadne vgradnje.

Označevanje cevovodov in orodij

Surovi posnetki epizod niso pripravljeni za učenje. Potrebujejo jezikovne opombe, maske za segmentacijo objektov in v nekaterih primerih tudi oznake nagrad.

Jezikovne opombe

Jezikovno pogojeni modeli VLA potrebujejo opis naloge vsake epizode v naravnem jeziku. Za majhne nabore podatkov se to naredi ročno; za nabore podatkov nad 10,000 epizodami postane nujno samodejno označevanje z uporabo modelov vizualnega jezika (GPT-4V, Gemini ali specializirani modeli podnapisov). Nadzor kakovosti zahteva človeški pregled vzorca, da se v samodejnem označevalniku odkrijejo sistematične napake.

Segmentacija in sledenje objektov

Politike, ki sklepajo o stanju objektov, imajo koristi od mask segmentacije na epizodo, ki identificirajo manipulirane objekte. Model Segment Anything (SAM 2) podjetja Meta omogoča interaktivno segmentacijo, ki jo je mogoče obvladovati na ravni nabora podatkov, kar v kombinaciji s prehodom za sledenje širjenju skrajša čas anotacije z ur na minute na epizodo.

Oblikovanje nagrad za RLHF

Ko epizode vključujejo tako demonstracije uspeha kot neuspeha, označevanje nagrad omogoča natančno nastavitev učenja z okrepitvijo iz človeških povratnih informacij (RLHF). Človeški komentatorji razvrščajo izide epizod, te preference pa urijo model nagrajevanja, ki oblikuje posodobitve politik. Ta cevovod se uporablja pri razvoju pi0 podjetja Physical Intelligence in se preučuje za učenje industrijskih nalog, kjer so binarne oznake uspeha/neuspeha že na voljo iz sistema MES.

Zasebnost, intelektualna lastnina in licenciranje naborov podatkov

Prispevki odprtih naborov podatkov sprožajo vprašanja intelektualne lastnine, ki jih morajo industrijski proizvajalci originalne opreme rešiti pred sodelovanjem.

Glavne kategorije licenc, ki so v uporabi, so CC-BY (zahtevano navajanje avtorstva, dovoljena komercialna uporaba), CC-BY-NC (samo nekomercialna uporaba) in Apache 2.0 (dovoljeno, vključno s komercialno uporabo in prerazporeditvijo teže modela). Lastniški nabori podatkov (Tesla Optimus, podatki o voznem parku Figure, Boston Dynamics) se ne delijo z zunanjimi subjekti.

Za proizvajalce originalne opreme v tovarnah je skrb glede intelektualne lastnine izpostavljenost procesa: epizoda, ki prikazuje specifično konfiguracijo vpenjanja, pot orodja ali zasnovo vpenjal, lahko razkrije lastniške proizvodne metode. Standardni ukrep za ublažitev je odstranitev vizualnega konteksta na raven končnega efektorja, prispevanje samo tokov skupnih trajektorij (brez podatkov kamere) ali uporaba sintetičnih upodobitev manipulacijske trajektorije na generičnem ozadju. Več novih konzorcijskih modelov ponuja pravne okvire za anonimiziran prispevek industrijskih podatkov v okviru sporazumov o vzajemnem nerazkrivanju v kombinaciji z licencami za podatke Apache 2.0.

Glede na analizo Stanford CRFM in sodelavcev v raziskavi o učenju robotov iz leta 2024 predstavljajo lastniški podatkovni silosi največjo strukturno oviro za napredek utelešene umetne inteligence, ki presega trenutne referenčne vrednosti. Industrijski proizvajalci originalne opreme, ki zdaj razvijajo notranje okvire za upravljanje podatkov, bodo v naslednjih 18–24 mesecih lahko sodelovali v konzorcijih za nabore podatkov, ko se bodo ti programi formalizirali.

Kako lahko proizvajalci originalne opreme v tovarnah prispevajo podatke

Dobavitelji industrijske avtomatizacije (vključno s FANUC, ABB, KUKA in certificiranimi integratorji na ključ, kot je EVST) se nahajajo na stičišču robotske strojne opreme in resničnih proizvodnih okolij. Zaradi tega položaja so naravni prispevalci k utelešenemu ekosistemu podatkov umetne inteligence, če je vzpostavljen operativni in pravni okvir.

Pilotne celice s teleoperacijskim prekrivanjem

Najbolj dostopna vstopna točka je pilotna celica, kjer je proizvodni robot opremljen s teleoperacijskim prekrivnim elementom: roko vodilnega in sledilnega sistema, ki jo operater uporablja za demonstracijo različic proizvodne naloge. Te demonstracije se zbirajo v majhnem obsegu (50–500 epizod) in zadostujejo za natančno prilagoditev predhodno naučenega modela VLA za specifično proizvodno nalogo. Pristop pilotne celice ne zahteva sprememb varnostnega certifikata proizvodne celice, ker teleoperacijski sistem deluje kot vhodna naprava za krmilnik robota in ne kot vzporedna krmilna pot.

Dodatna oprema za beleženje podatkov na proizvodnih robotih

Obstoječe proizvodne robote je mogoče naknadno opremiti z lahkimi moduli za beleženje, ki beležijo stanje sklepov, položaj končnega efektorja in silo prijemala s hitrostjo EtherCAT ter med proizvodnimi procesi zapisujejo časovno žigosane datoteke epizod na robni strežnik. To ne zahteva sprememb krmilnega programa robota. Zabeleženi podatki zajemajo dejansko manipulacijsko vedenje v proizvodnji, kar je za nalogo bolj reprezentativno kot laboratorijske demonstracije. Industrijski krmilniki EVST, ki delujejo s cikličnimi časi EtherCAT 1 kHz in so certificirani po standardih CE/SGS/TUV, zagotavljajo deterministično časovno arhitekturo, od katere je odvisen ta pristop beleženja. Podatke je mogoče očistiti, anonimizirati in formatirati za standardne ogrodja za učenje robotov brez dragega dela na ponovni integraciji.

Sodelovanje v programu anonimiziranih naborov podatkov

Nastajajoči programi za nabore podatkov proizvajalcev originalne opreme (vključno z odprtim programom za prispevke AgiBot World in več konzorcijskimi razpravami na ICRA 2025) sprejemajo anonimizirane podatke o industrijski manipulaciji. Proizvajalci originalne opreme s certifikatom IATF16949, kot je EVST, imajo obstoječe procese upravljanja kakovosti, ki se dobro prevajajo v zahteve glede celovitosti metapodatkov, ki jih določajo ti programi: sledljivi časovni žigi, dokumentirani protokoli zbiranja in potrjeni zapisi o kalibraciji senzorjev.

Globalna pokritost terena kot prednost podatkov

Proizvajalec originalne opreme (OEM) s terenskimi inženirji iz več kot 100 držav lahko zbira podatke za usposabljanje z umetno inteligenco iz resnično raznolikih proizvodnih okolij (različne geometrije obdelovancev, okoljski pogoji, demografski podatki operaterjev in razlike v procesih). Ta geografska raznolikost je dragocena, ker se politike, usposobljene na tej podlagi, bolje posplošujejo kot tiste, ki so bile usposobljene na podatkih iz enega samega laboratorija ali obrata. Roboti EVST s certifikatom za eksplozijsko varno delovanje in celotna linija od 3 do 800 kg pomenijo, da se lahko zbiranje podatkov razširi na okolja, kot so kemična predelava, ravnanje z nevarnimi materiali in proizvodnja pri ekstremnih temperaturah, ki jih večina akademskih naborov podatkov sploh ne pokriva.

Ključne podatkovne točke industrije

Glede na poročilo Mednarodne zveze za robotiko (IFR) World Robotics 2024 je bilo leta 2023 po vsem svetu v uporabi več kot 3.9 milijona industrijskih robotov, vendar največji odprti nabori podatkov o manipulaciji z roboti vsebujejo manj kot 2 milijona epizod skupaj, kar ponazarja razliko v obsegu med uporabljeno strojno opremo in razpoložljivimi podatki za usposabljanje. EVST to obravnava z raziskovanjem arhitektur beleženja naknadne vgradnje, ki pretvarjajo flote proizvodnih robotov v pasivna sredstva za zbiranje podatkov.

Glede na članek Open X-Embodiment (Padalkar et al., Google DeepMind et al., 2023) so modeli, usposobljeni na podatkih o navzkrižnih izvedbah več kot 22 tipov robotov, pokazali merljivo boljšo posplošitev pri zadržanih nalogah kot modeli, usposobljeni samo na podatkih katere koli posamezne izvedbe. EVST to obravnava tako, da strukturira svoj notranji okvir za ocenjevanje podatkov tako, da pri ocenjevanju uporabnosti nabora podatkov za ocenjevanje natančnega uglaševanja proizvodne linije upošteva raznolikost izvedb skupaj s številom epizod.

Glede na opažanja v industriji iz več laboratorijev za učenje robotov v letih 2024–2025 je razlika med vizualno simulacijo in realnim stanjem vzrok za večino primerov neuspeha politik pri manipulacijskih nalogah, ki vključujejo zrcalne ali prozorne predmete, ki jih standardne tehnike randomizacije domen ne pokrivajo zanesljivo. EVST to obravnava s spremljanjem fotorealističnih simulacijskih orodij (zlasti cevovodov NVIDIA Cosmos in Gaussian Splatting) kot kandidatov za dopolnjevalne plasti za svoj načrt načrtovanja gibanja, izboljšanega z umetno inteligenco.

Sorodni vodniki

Pogosto zastavljena vprašanja

Zakaj je zbiranje podatkov o utelešeni umetni inteligenci težje kot zbiranje podatkov za jezikovne modele?

Jezikovni modeli se učijo na besedilu, ki že obstaja na internetu v ogromnem obsegu. Utelešeni roboti z umetno inteligenco morajo zbirati podatke o senzorično-motoričnih sposobnostih, povezanih z dejanji: sinhronizirane kote sklepov, sile prijemala, okvirje kamere in kontekst naloge, vse posneto med fizično manipulacijo. Ti podatki ne obstajajo v spletnem obsegu in njihovo ustvarjanje je drago. Vsaka teleoperirana epizoda običajno traja od 1 do 10 minut časa izkušenega operaterja, da ustvari eno samo učno pot, kakovost pa se poslabša, če operater ni seznanjen z dinamiko robota.

Kakšna je razlika med prenosom iz simulacije v realno in naključnim določanjem domen pri usposabljanju robotov?

Prenos iz simulacije v realno stanje je širok cilj: usposobiti pravilnik v simulaciji in ga uporabiti na fizičnem robotu brez zmanjšanja zmogljivosti. Naključna domena je ena od tehnik za dosego tega cilja. Med učenjem naključno spreminja parametre simulacije – osvetlitev, teksture, koeficiente trenja, mase objektov – tako da se pravilnik nauči obvladovati spremembe v resničnem svetu, namesto da bi se preveč prilagajal enemu samemu simuliranemu videzu. Druge metode vključujejo prilagajanje domen, fotorealistično upodabljanje (kot v NVIDIA Cosmos) in identifikacijo sistema.

Kaj je Open X-Embodiment in koliko vrst robotov pokriva?

Open X-Embodiment je obsežen odprti nabor podatkov o učenju robotov, ki ga je sestavil Google DeepMind s 33 sodelujočimi raziskovalnimi ustanovami. Združuje več kot milijon epizod robotov v več kot 22 izvedbah robotov – enoročnih manipulatorjih, bimanualnih ploščadih, mobilnih bazah in spretnih rokah. Modeli RT-X, usposobljeni na OXE, so pokazali, da učenje navzkrižnih izvedb izboljša posplošitev politik v primerjavi z izhodišči za eno samo izvedbo.

Kako lahko proizvajalec originalne opreme v tovarni prispeva podatke o robotih k utelešenemu usposabljanju z umetno inteligenco, ne da bi pri tem razkril lastniško intelektualno lastnino procesa?

Najbolj praktičen pristop je anonimiziran prispevek epizod: odstranitev metapodatkov, ki identificirajo proces (številke delov, reference strank, ciljni časi cikla), in prispevanje samo tokov skupnih trajektorij in stanja prijemala. Več programov za nabore podatkov – vključno z AgiBot World in novimi pobudami konzorcija OEM – sprejema anonimizirane podatke o industrijski manipulaciji pod pogoji Apache 2.0 ali CC-BY. Infrastruktura beleženja z determinističnimi časovnimi žigi EtherCAT zagotavlja, da kakovost epizod ustreza standardom vnosa nabora podatkov.

Kateri sistem za zbiranje podatkov na daljavo je najboljši za naloge industrijske manipulacije?

Za industrijsko manipulacijo so vodilne možnosti ALOHA 2 (dvomočne roke z vodilnim in sledilnim sistemom, nizki stroški, odprtokodna tehnologija), UMI (nameščene na zapestju, ločene od robota, zelo prenosne) in zajem na osnovi eksoskeleta za naloge z večjo koristno obremenitvijo ali zajem celotnega telesa. VR-plošče, ki uporabljajo Apple Vision Pro ali Meta Quest 3, pridobivajo na veljavi za intuitivno dvoročno zajemanje, vendar zahtevajo ponovno ciljanje cevovodov za pretvorbo kinematike človeške roke v prostor sklepov robota. Prava izbira je odvisna od stopenj svobode ciljnega robota, koristne obremenitve in ali naloga zahteva dve roki.

Zadnja posodobitev: april 23, 2026

Oglejte si našo Rešitve z umetno inteligenco →

super! Skupna raba z:

Logotip EVST-a
Pregled zasebnosti

Ta spletna stran uporablja piškotke, tako da vam lahko zagotovimo najboljšo uporabniško izkušnjo. Podatki o piškotkih so shranjeni v vašem brskalniku in opravljajo funkcije, kot so prepoznavanje, ko se vrnete na našo spletno stran in pomagate naši skupini, da razumejo, kateri deli spletnega mesta najdete najbolj zanimive in uporabne.