mboost-dp1

Microsoft Research

Microsoft fremviser revolutionerende video-stabiliseringsalgoritme

- Via Microsoft Research - , redigeret af Net_Srak , indsendt af Montago.NET

Der findes mange måder at optage og vise video på, almindeligt, slowmotion, øget hastighed, timelapse og hyperlapse, for at nævne nogle eksempler. Hos Microsoft Research har de nu udviklet en algoritme, der kan danne en hyperlapse-video af en almindelig video-optagelse.

Hyperlapse er en variant af timelapse hvor kameraet bevæges, samtidigt med der oftes fokuseres på et givent objekt, hvilket giver en helt unik videooplevelse.

Hos Microsoft research tager de udgangspunkt i video optaget ud fra en persons synsvinkel, typisk fra et actionkamera. Øges gengivelsen af en sådan optagelse med faktor 10, vil bevægelserne være meget kaotiske, men med deres nye algoritme, får de stabiliseret bevægelserne, så optagelser ser ud som var de lavet med steadycam.

Du kan se hvordan det ser ud i videoen herunder, ligesom der også er en video, som går mere i detaljer med det tekniske. Holdet bag håber at kunne frigive programmet til Windows inden længe.





Gå til bund
Gravatar #1 - el_barto
12. aug. 2014 08:42
Snedigt. Men så må man åbenbart leve med at objekter (f.eks. lygtepæle) danser lidt rundt i billedet og at nogen personer ser ud til at være halvt gennemsigtige :)

Lidt som Google Streetview på stoffer.
Gravatar #2 - el_senator
12. aug. 2014 08:46
Det er rigtig fed teknologi hvis det skal bruges for at beskrive en rute fra a til b. Men som video fungerer det ikke rigtig, da det er stitchet for meget og dermed ødelægger alt hvad der hedder konsistente bevægelser af personer og bevægelige omgivelser. Det ses meget tydeligt til allersidst i tech videoen.
Gravatar #3 - SAN
12. aug. 2014 09:05
Synes det ser rigtigt smart ud, ville være meget anvendeligt hvis man vil timelapse fra en interessandt scene til en anden, for at kæde scenerne sammen, men uden alt ventetiden.
Gravatar #4 - HerrMansen
12. aug. 2014 09:54
Der er helt klart lang vej endnu i bjergscenen - Det er alt for rodet at se på. Og som Barto er inde på så er der problemer med tynde objekter som lygtepæle.

Men idéen er god nok.
Gravatar #5 - Slettet Bruger [2166850055]
12. aug. 2014 10:49
#4 stadig bedre end at se den rå video.
Gravatar #6 - NielsH12
12. aug. 2014 11:00
Gad vide hvor meget computerkraft det kræver at lave sådan en hyperlapse?
Gravatar #7 - Montago.NET
12. aug. 2014 11:13
#6

Umiddelbart kan jeg ikke finde ud af hvilken computer de har brugt til at lave demoen, men BIKE3 videoen som er 13.11 minutter lang og 23700 frames, tog 40 timer at lave:

Stage Computation time
Match graph (kd-tree) 10-20 minutes
Initial SfM reconstruction 1 hour (for a single batch)
Densification 1 hour (whole dataset)
Path optimization a few seconds
IBR term precomputation 1-2 minutes
Orientation optimization a few seconds
Source selection 1 min/frame (95% spent in GMM)
MRF stitching 1 hour
Poisson blending 15 minutes

Jeg ved dog ikke hvad de mener med source selection, om det er for alle 2189 output frames, eller de 23700 input frames :(
Gravatar #8 - lilleunivers
12. aug. 2014 11:19
En almindelig hyperlapse får man hovedpine af - de er kommet et kvantespring frem. Det ser ret cool ud! Ja, der er noget vej endnu, men betragt det i forhold til at se almindelig hyperlapse.

Glad for at der findes kloge mennesker der vil gøre noget godt for os Windows folk :-)
Gravatar #9 - Tyroler
12. aug. 2014 11:33
#7

Jeg kunne forestille mig at source selection er valget af kilde billeder de bruger til at stitche den nye video frame sammen af.

Mange af de features de bruger kan også findes i diverse open source projekter som PCL og OpenCV.

Hvis man kombinerede det almindelige billede med et TOF billeder ville man få en meget mere detaljeret pointclould at bygge ruten i 3d space ud fra, og derved have nemmere ved at stitche billederne samme.

Deres kalibrering af 2d billedet er heller ikke i perfekt det ses tydeligt i hjørnerne på billedet, hvor der stadig er "fisheye" effekt.
Gravatar #10 - Montago.NET
12. aug. 2014 11:43
#9

indtil videre er det jo også bare en POC... hvis de går videre med Hyperlapse som et produkt, skal det nok blive forfinet og optimeret.
Gravatar #11 - Tyroler
12. aug. 2014 12:01
#10

Et meget flot POC.

Men det jeg ligger mest mærke til er at systemet ikke kan skelne solide og dynamiske objekter fra hindanden når billederne stitiches sammen. Hvis man laver denne separation kan man bygge en model på de dynamiske objekter og sætte dem ind i den statiske scene og genbygge den originale tidslinje.

Dette vil dog kræve en del mere CPU power.
Gravatar #12 - Montago.NET
12. aug. 2014 13:00
#11

det er lidt svært at lave en 2D/3D model af bevægelige objecter... hvordan ville du gøre det med fodgængere osv ?

hvilken "frame" af deres bevægelser ville du i så fald bruge ?

det ser desuden allerede ud til at de gør nogle af de ting du nævner..

læg mærke til den anden klatrer på vej op af bjerget, han bliver frosset rimelig godt fast på vej op.
Gravatar #13 - Tyroler
12. aug. 2014 14:35
#12

Der bliver allerede genereret en grov point cloud af elementer i scenen, denne kan bruges til at segmentere objekter men også generere et textureret 3D mesh. mesh'et kan så bruges sammen med ændringerne mellem hver frame og derved renderer de dynamiske objekter.

Grunden til at man ser elementer fastlåst er netop at der ikke tages højde for dynamiske objekter, hvor det samme kilde billede bliver genbrugt flere frames, hvor der kun kompenseres for bevægelsesen i 3d.

Selvfølgeligt er det ikke sikkert man har information om objektet fordi kameraet ikke tager billeder af det dynamiske objekt, og derfor kun kan bruge gamle billeder.
Gravatar #14 - dprocs
12. aug. 2014 20:58
Kunne jeg godt bruge... jeg har næsten lige lavet en video hvor jeg tager fra KBH til Italien, Metro -> Lufthavn (inkl. security og xray) -> fly -> Bus -> Tog...

Hvis jeg bare speeder videoen op så er det til at få hovedpine af.
Gravatar #15 - kilo
12. aug. 2014 23:12
Jeg tænker lignende algoritmer finder indpas i videoafspillerer, så man kunne få en mere flydende spolefunktion?
Kræver selvfølgelig der er kraft nok til at gøre det realtime ;)
Gravatar #16 - jonashn
12. aug. 2014 23:22
Skøn nyhed, da den var en nyhed.. På trods af teknologi tager det åbenbart et par dage for nyheder at komme til dk :-)
Gravatar #17 - HerrMansen
12. aug. 2014 23:33
jonashn (16) skrev:
Skøn nyhed, da den var en nyhed.. På trods af teknologi tager det åbenbart et par dage for nyheder at komme til dk :-)


Indsend Nyhed - Knappen der giver og giver!
Gravatar #18 - RMJ
13. aug. 2014 00:43
Skal ihvertfald prøve at optage når jeg cykler når engang man kan få adgang til det software der.

Nu er timelapse jo fede at se på, uden man blive helt tosset af alt det rysten. Selv bare med en cykel tur ryster det hele vildt.

Jeg håber musikken følger med :P lyder skide fedt.
Gravatar #19 - sorenandroid
13. aug. 2014 07:00
RMJ (18) skrev:
Jeg håber musikken følger med :P lyder skide fedt.


One is glad to be of service. - hvis du trykker download får du den med i .wav :)
Gravatar #20 - ego fantastic
13. aug. 2014 07:36
Synes det set virklig fedt ud og jeg er åbenbart en af de få der godt kan lide overgangens effekten mellem de enkelte billeder, især på bjerg videoen, den minder mig om Björks Joga video :)

Håber de udgiver appen til mere end bare Windows phone, lige som de gjorder med Photosynth.
Gravatar #21 - Mardin
13. aug. 2014 09:52
Mon det er et standalone software program de frigiver, eller er det en teknologi de vil dele med eksisterende redigeringsprogrammer?

Hvilket redigeringsprogram vil I iøvrigt anbefale til Windows?

Den eneste grund til jeg holder fast i OSX med næb og kløer er FinalCut Pro X. Jeg finder Adobe Premiere Pro alt for omstændigt.
Gravatar #22 - RpR
13. aug. 2014 11:30
Ligner det ikke lidt den teknologi de bruger på http://photosynth.net/ ?
Gravatar #23 - KickAssFairy
14. aug. 2014 13:31
Now.... Put it in a phone.

Tror muligvis at et standard WP device skal have en generel HW-optimering hvis den skal kunne gøre dette ;-)

Jeg mener bare, fuck. Tage billederne render et 3D mesh, klippe lortet sammen og smoothe frames'ene ud. Tror det kommer til at trække tænder ud på selv en SGS5-Spec'et WP platform.

Ellers skal de lave det som en hardware baseret løsning, men det kommer nok næppe til at ske i den nærmeste overskuelige fremtid :-)
Gå til top

Opret dig som bruger i dag

Det er gratis, og du binder dig ikke til noget.

Når du er oprettet som bruger, får du adgang til en lang række af sidens andre muligheder, såsom at udforme siden efter eget ønske og deltage i diskussionerne.

Opret Bruger Login