Špatná rozhodnutí tvoří dobré vzpomínky, aneb jak jsem jel do Norimberka

Je 1:45 právě jsem se vrátil z výletu. Původně jsem tedy měl být zpět už v půl jedné, ale nějak to nevyšlo... Takže kde udělali soudruzi z NDR chybu?

Je 22:30 kostelní zvon v Hofu právě odbíjí. Čas vyrazit zpět do Plzně, nedá se nic dělat, ráno musím do práce. Ve chvilkovém záchvatu šílenství jsem hodil mobil i se zbytkem věcí do kufru auta. Na první pohled zdánlivě nepodstatný detail, který se však ukáže být stěžejním.

Cesta domů je snadná, jel jsem jí už x-krát. Ven z parkoviště, na konci náměstí doprava, za mostem opět doprava a pak "U Pekárny" doleva do kopce. Jede se úzkou uličkou ve vilové čtvrti a pak kus silnicích druhé kategorie. Nakonec se stačí protáhnout stavbou a jsem na dálnici.

Tu první část jsem zvládl skvěle, ovšem u pekárny jsem na chvíli zaváhal. Jelikož Petra Wazeová pokojně dříme v kufru, tak mě neměl kdo zastavit. Na křižovatce "U Pekárny" je navigační cedule. Na té ceduli je jasně vyznačený směr na dálnici - rovně. Nechtělo se mi tentokrát kličkovat vilovou čtvrtí, tak jsem se dnes rozhodl, že pojedu podle cedulí. Když to je značené, tak to přece musí být lepší cesta! Takže "U Pekárny" rovně.

Po několika dalších křižovatkách a hlavních třídách kdy je nutné hlídat hodinky i tachometr (omezení rychlosti se mění podle denní doby) jsem úspěšně opustil Hof, s tím, že dálnice se nachází někde po mé levé ruce. Alespoň tak to stálo na té poslední ceduli, která navigovala k dálnici. O 15 kilometrů dále se po pauze opět objevila cedule směr dálnice. Když jsem se zorientoval podle Polárky, tak se mi zdálo, že sice ukazuje na druhou stranu, než bych se měl dát. Ale byl tam přikázaný směr jízdy a dvojitá plná čára. No co se dá dělat. Ordnung muss sein. Po dalších 10 minutách jsem se ke svému zděšení objevil opět v Hofu. Proklel jsem tedy všechny značkaře až do desátého kolena a jal se znovu následovat navigační systém - směr dálnice.

Z Hofu do Plzně to je naštěstí velmi jednoduché, stačí sledovat na dálnici směr Mnichov a u Wartburg-Koblihu uhnout doleva. Díky "skvělému" systému německých navigačních cedulí jsem se dokázal znovu vymotat skrz město směr dálnice. Dokonce jsem si dal i pozor abych najel na dálnici ve směru do Mnichova a ne na tu do Drážďan. Někdy kolem 22:10 konečně najíždím na dálnici, směr Mnichov. Zdržení půl hodiny, co se dá dělat. Teď už to bude jistě bez problému, pojedu hezky po A-devítce, u koblihu uhnu na Plzeň a bude. Vy co to tam znáte, již jistě vidíte v čem spočívá můj zásadní omyl. Vy co neznáte, čtěte dál.

Po najetí na dálnici mi malý nenápadný hlásek, vzadu v hlavě, našeptával, že něco je špatně. Ještě odpoledne měla dálnice ve směru do Hofu jenom dva pruhy, tahle má ovšem 3. Umlčel jsem ho s tím, že se určitě jedná o německou efektivnost a v rámci zlepšení plynulosti provozu mají dálnice asymetrické. Chabá poznámka o tom, že i protisměr má třetí pruh, který odpoledne ještě neměl, zanikla v řevu motoru. Když máte tři pruhy, tak se dá pořád svištět 180 a ani závodící kamiony vás nebrzdí. Je to radost po takové cestě jet. Na dálničních ukazatelích byl uveden Mnichov i Norimberk, takže určitě jedu správně.

Zhruba po 20 km jsem projelk dálničním podjezdem (ten před Hofem, jak jinak) takže je vše jak má být. Po dalších 30 km jsem si říkal, že je zvláštní, že jsem ještě neminul Selb. Ale ukazatele stále uspkojivě mířily na Mnichov, tak jsem jel dál. Co taky jiného dělat, když se na dálnici nedá otočit a navigace leží v kufru. Jel jsem to přece už x-krát. To trefím. Po dalších asi 30 km jsem se začal podivovat, kam zmizely z ukazatelů směrovky na Prahu, touhle dobou už by tu dávno měly být. Moje podezření začalo sílit. Přestal jsem se těšit pohledy na místní autosalóny a nasvícené fabriky, které jsem za dne vůbec neviděl a začal se více věnovat ukazatelům. Číslo vedle nápisu Nürnberg povážlivě klesalo.

Když se na ukazateli objevilo vedle nápisu Nürnberg číslo 43 km, tak jsem s využitím trojúhelníkové nerovnosti došel k závěru, že jsem opravdu na špatné dálnici. A ten nenápadný hlásek se škodolibě zachechtal. Zhruba 20 km před Norimberkem jsem konečně narazil na odpočívadlo, zastavil, vyndal navigaci a zjistil, že jsem si zajel zhruba tak 150 km... Celý průšvih spočívá totiž v tom, že jsem jel po dálnici A9, jenže já jsem potřeboval trefit na A93! Drobná záměna, to se na sklonku dne stane, ani nevíte jak. Najednou všechno začalo dávat smysl.

Všechny ty drobné indicie, jako například třetí pruh dálnice, který se "zjevil" během 4 hodin, v délce 120 km. Kvalita asfaltu, budovy, kterých jsem si nikdy předtím nevšimnul, chybějící anebo naopak přebývající mosty a spousta dalších detailů.

Zbytek cesty, tentokrát již podle navigace proběhl bez dalších větších zádrhelů. Snad jen, že kousek od hranic na mě začalo mrkat magické oko, ale naštěstí jsem dokázal na výpary dohrkat až na benzíku za čárou. Takže jsem nemusel kupovat předražený dálniční benzín v Německu za Eura, ale mohl jsem si natankovat předražený dálniční benzín hezky v Čechách.

Image Similarity Assessment #3 - Big Data

As I have mentioned before I have a quite big dataset - 25,000 colour images. Each image has one dimension set to 500px and the other is scaled to preserve original ratio. Those images are in JPEG and the downloaded file has roughly 2 GB.

So the first step was to prepare those imaves for processing. For start i have decided to scale the images to uniform size - 256x256 pixels. Then I converted the images to grayscale and normalized to range <0,1>. Under this conditions each image has exactly 262,144 bytes multiply that by 25,000 and we are at 6.1 GB. My PC has only 8GB of RAM so I decided to trim that down. So I changed the image size to 128x128 and the size of the dataset was down to 1.5GB, which is still too big for my GPU (1GB), but fits in RAM just fine. 

The process

To change the size and color depth of the images I used imagemagick. But preparation of the data was done in python, using numpy and scipy.
The process was straightforward - read image, convert to vector (numpy.ravel) divide by 255 and push into storage matrix as a new row. And last step was dumping to disk using cpickle.

Well on paper it seems nice and easy. But there were some trouble. The pickled dataset had 13GB(this was for 256x256 images). As I found out, the python's float is actually double (64bit number).

So after this experience I have done calculations and decided to shrink the images even more. Other change was abandoning pickle and switching to HDF5 (h5py), which provides transparent compression and is usually faster than pickle.

So after these design changes I have updated the conversion script and oh boy, was I surprised when the resulting data file had only 7MB.

No that's not a typo. If you have any knowledge of information thoery, you can see it stinks. And you are right. Whelp at the moment, I was really excited about the result that it blinded my judgement.

It wasn't until few days later that I found the error. When I was rewriting the conversion script, I did a tiny error  with huge consequences. Can you spot it?

img_norm = img/255

Yep, integer division. Only pixels that were pure white yielded 1. Every other value was 0. That's why the compression was so efficient. Even RLE can get amazing compression ratio when there are zeros only.

So the lessons learned were: be careful with intuition while learning python and triple check every line you write.

Image Similarity Assessment #2 - Getting Data

The first challenge in machine learning research is getting data. The second challenge is to get quality data. For my research I needed decent amount of real world images to test my algorithms against. I have listed some options I have tried below.

NUS-WIDE

People at National University of Singapore did a great job creating the NUS-WIDE dataset. This dataset contains ~250.000 images scraped from Flickr. The images are tagged and sorted in categories describing their content. They are also providing some feature data as histograms and SIFT descriptors. It's like researchers dream.

Well kinda. I have worked with this dataset in the past, and there are some issues I have found. First of all, the dataset is provided as a set of image links. Which makes sense, given the amount of images. The problem is, that because the dataset was created in 2009, some images are gone. That alone isn't a big issue, even though it means some further processing is needed. The main issue is, that Flickr doesn't respond with 404 File Not Found. Flickr responds with following image:

I'm not really networking savvy so there might be some ways to detect the redirect and act accordingly, but I didn't know them. In the end a fraction of images I have scraped from Flickr was this particular image.

If you have few hundreds of images you can remove those manually, if you have several  thousands, not really. Of course there are some ways (CRC checking, image hashing, ...) but that means extra work, and it's a waste of time, that could be spend differently.

Imgur

Another idea I had was to write custom Imgur scraper. The URL of Imgur image consists of random string 4 to 6 chars long. So my first try was generating random URLs and hoping for the best.

Well it turns out, that Imgur's adress space is only about 30-40% full. That means that only 30-40% of randomly generated strings are actually images. To put it in perspective, for 20,000 images you need to generate 50,000 - 65,000 random strings in the best case. "That's easy!" you say, and you are  right, the problem is not generating the URLs. The main issue is downloading the images.

The PC my code is running on, has public IP. This means, that if Imgur decides that I'm scraping too much data, they can easily block me. Yeah I might be a bit paranoid, but better save than sorry. Fast forward few days, I have noticed that on Imgur gallery page, there is a Random image link. This means, I don't have to care about generating the URLs. Imgur will do the hard work. So getting the images was as easy as write simple HTML parser, and follow the Random link. To overcome the problem with public IP I've decided to use public proxy service.

First I found a webpage with list of free proxies, then I've parsed the proxy IP's and use them for connecting to Imgur. It turned out, that not all proxies are that good. Some proxies didn't event work. So I've implemented simple selection algoritmh, working in similar manner as OS process scheduler. The better the proxy performed the higher priority it had, decaying the priority every few cycles.

Well this certainly worked. It worked really well, to be honest. The problem is, it was slow. Mean time for getting one image was around 7 seconds, in roughly 20% of cases the time was worse than 20s. Quick calculation shown that it would take few days to get decent number of images. Not really appealing option.

MIR FLICKR

In the end I have found MIR FLICKR dataset. This was really lucky shot. The researches at Leiden university obtained impressive dataset of 1 milion images from Flickr. And unlike the NUS WIDE they are providing the actual images for download.

There are two options for download. The older, smaller dataset with 25,000 images and the newer one with 1 milion images. I have decided to use the smaller one, mostly because I don't have so much time and processing time at hand to crunch through the 1M images in reasonable time. 

Image Similarity Assessment #1 - Preface

Preface

In recent few months I work at my master thesis. The topic is Image Similarity Assessment. The goal of my work is to evaluate different algorithms for comparing and retrieving similar images from given dataset. Basically the thing that Google does so well.

Few years back I did similar research based on feature extraction and comparison. The process was to run wavelet transform, extract interesting coefficients and use them as key for searching. Well it turned that this approach isn't much useful. In the end I was able to get >98% accuracy for corrupted images (changed aspect ratio, added blur), but for similarities it didn't work well.

When I started work on my thesis my supervisor asked me to try different approach - neural networks. More specifically deep neural networks. The researchers from LISA Lab in Montreal found new ways to effectively train deep neural networks and my goal is to try this new stuff. In short, my goal is to train deep auto-encoder which would generate low dimensional codes used for image retrieval.

The idea behind my work is, that user provides some image input and software will return images, which are in some way similar. I have to add advance notice here. The algorithm "sees" differently than humans. To prove my point look at following images:

Those two images were selected as similar even though, they have nothing in common. I have to admit, that this is result of algorithm with very poor performance, but it proves my point. The algorithm doesn't see an image of beach and image of tiger. It sees bunch of yellow-orange pixels (fur/sand), bunch of gray and white (clouds and foam/fur and wall) and bunch of blue pixels (sky).

As you can see this is quite challenging task and I'm really interested what results will my research yield.

Kafír

Již několik týdnů jsem zaměstnán u softwarové firmy. V kanceláři sedíme 2-4 záleží, kdo z kolegů si hodí áčko. Během uplynulých dnů nabitých prací jsem si povšiml zajímavého fenoménu u jednoho kolegy. Podle všech dostupných indicií se jedná o kafíra.

5 mýtů o zbraních, kterým všichni věří (díky filmům)

Dokonce ani v Americe plné zbraní, málokdo tráví den co den střelbou. Takže většina Američanů toho ví o zbraních velmi málo. Hollywoodští scénáristé si to uvědomili již dávno, a protože jsou pisálci, omlouvají tím, že nikdy neověřili to, co píšou ve skutečném životě.

4 historické symboly, které znamenají přesný opak, než jste si mysleli

Když chcete motivovat lidi, nespoléháte se na logiku nebo rozum. Ne, to co potřebujete je symbol. Slogan, vlajka, tvář hrdiny, kterou si můžete dát na tričko.
Takže co dělat, když skutečný svět nenabízí nic, za čím by se lidi hnali? Prostě si to vymyslete.