Stack Overflow Data Dump

Stack Overflow ist eine großartige Plattform zum Austausch von Informationen für IT Experten, die weltweit von Menschen rund um das Thema Computer und Software Entwicklung genutzt wird.

Dabei bietet die Website http://stackoverflow.com/ die optimale Anlaufstelle bei Fragen und Problemen. Doch neben der Webseite gibt es noch andere Möglichkeiten auf die Informationen zuzugreifen. Z.B. gibt es eine SQL ähnliche Abfragesprache, mit der man die Grenzen der Web-Oberfläche überwinden kann und viele weitere Informationen erhält.

Abfrage: How many upvotes do I have for each tag?

 DECLARE @UserId int = ##UserId##

 SELECT --TOP 20 
     TagName,
     COUNT(*) AS UpVotes 
 FROM Tags
     INNER JOIN PostTags ON PostTags.TagId = Tags.id
     INNER JOIN Posts ON Posts.ParentId = PostTags.PostId
     INNER JOIN Votes ON Votes.PostId = Posts.Id and VoteTypeId = 2
 WHERE 
     Posts.OwnerUserId = @UserId
 GROUP BY TagName 
 ORDER BY UpVotes DESC

http://data.stackexchange.com/stackoverflow/query/785/how-many-upvotes-do-i-have-for-each-tag

Stack Overflow Data Dump ClearBits Torrent

Aber auch diese Lösung passt nicht für alle Belange des IT-Alltags. Daher hatte man bisher die Möglichkeit, einen kompletten Abzug der Daten bei ClearBits als XML Dateien herunterzuladen um damit allen möglichen Quatsch anstellen zu können.

Rechtlich unbedenklich war der Download auch, da die Inhalte alle unter der CC BY-SA 3.0 Lizenz stehen. D.H. man darf das Material für beliebige Zwecke (auch kommerziell) in jedwedem Format oder Medium vervielfältigen und weiterverbreiten, remixen, verändern und darauf aufbauen. Der Lizenzgeber darf diese Freiheiten nicht widerrufen solange Sie die Urheberschaft ausreichend deutlich benennen, einen Link zur Lizenz beifügen und angeben, ob sie Änderungen an den Inhalten vorgenommen haben. Diese Angaben dürfen in jeder angemessenen Art und Weise gemacht werden, allerdings nicht so, dass der Eindruck entsteht, der Lizenzgeber unterstütze gerade Sie oder Ihre Nutzung des Werks besonders.

Alle Details der Lizenz können unter http://1br.de/ccbysa nachgelesen werden.

Der ClearBits Data Dump der Stack Overflow Daten war bisher immer eine sehr gute Möglichkeit, sich die Daten auf einen lokalen Datenträger zu kopieren um auch Offline darauf Zugriff zu haben.

Ich schreibe deshalb „war“, da ClearBits seit Ende-Dezember 2013 nicht mehr erreichbar ist. Das ist nicht nur mir aufgefallen, sondern auch anderen Nutzern der Daten.

Unter http://meta.stackoverflow.com/questions/213670/is-there-a-problem-with-the-clearbits-data-dump kann man den Verlauf der Diskussion nachverfolgen.

Archive.org ist die Lösung

Nachdem Geoff Dalgas einige Zeit nach einer Lösung für das Problem gesucht hat, ist er am 23.01.2014 fündig geworden und hat sich für archive.org entschieden. Die Webseite bietet die nötige Infrastruktur und kann auf einige Jahre zurückblicken. Im Gegensatz zu ClearBits ist bei archive.org nicht zu erwarten, dass die Webseite nach ein paar Jahren wieder offline geht.

Der Stack Overflow Data Dump ist nun also umgezogen und unterhttps://archive.org/details/stackexchange zu erreichen. Ich habe mir mal die aktuelle Version der Datei stackoverflow.com-Posts.7z heruntergeladen (4,62 GB) entpackt (22,7 GB) und mit einem SAX Parser analysiert.

Aktuell enthält der Dump 1.099.869 Posts und ist damit eine unglaublich große Wissensdatenbank für Entwickler, die nicht jedes Mal das Rad neu erfinden wollen.

Hinweis:

Neben den Stack Overflow Dumps gibt es noch eine Reihe anderer Dateien, die nicht weniger Interessant sind und alle auch per BitTorrent heruntergeladen werden können.

Dateiname Größe
academia.stackexchange.com.7z 10.9 MB
android.stackexchange.com.7z 30.1 MB
anime.stackexchange.com.7z 4.1 MB
apple.stackexchange.com.7z 59.9 MB
askubuntu.com.7z 228.5 MB
astronomy.stackexchange.com.7z 1.2 MB
aviation.stackexchange.com.7z 995.2 KB
avp.stackexchange.com.7z 5.9 MB
bicycles.stackexchange.com.7z 13.0 MB
biology.stackexchange.com.7z 8.7 MB
bitcoin.stackexchange.com.7z 10.0 MB
blender.stackexchange.com.7z 3.6 MB
boardgames.stackexchange.com.7z 9.9 MB
bricks.stackexchange.com.7z 1.9 MB
chemistry.stackexchange.com.7z 4.5 MB
chess.stackexchange.com.7z 2.7 MB
chinese.stackexchange.com.7z 3.2 MB
christianity.stackexchange.com.7z 23.6 MB
codegolf.stackexchange.com.7z 14.9 MB
codereview.stackexchange.com.7z 51.9 MB
cogsci.stackexchange.com.7z 5.0 MB
cooking.stackexchange.com.7z 22.4 MB
crypto.stackexchange.com.7z 11.1 MB
cs.stackexchange.com.7z 13.1 MB
cstheory.stackexchange.com.7z 16.6 MB
dba.stackexchange.com.7z 46.8 MB
diy.stackexchange.com.7z 21.0 MB
drupal.stackexchange.com.7z 48.3 MB
dsp.stackexchange.com.7z 8.8 MB
ebooks.stackexchange.com.7z 474.9 KB
electronics.stackexchange.com.7z 68.6 MB
ell.stackexchange.com.7z 9.7 MB
english.stackexchange.com.7z 81.4 MB
expressionengine.stackexchange.com.7z 8.3 MB
fitness.stackexchange.com.7z 9.8 MB
freelancing.stackexchange.com.7z 1.1 MB
french.stackexchange.com.7z 4.9 MB
gamedev.stackexchange.com.7z 52.0 MB
gaming.stackexchange.com.7z 75.4 MB
gardening.stackexchange.com.7z 5.8 MB
genealogy.stackexchange.com.7z 2.7 MB
german.stackexchange.com.7z 7.6 MB
gis.stackexchange.com.7z 54.0 MB
graphicdesign.stackexchange.com.7z 13.5 MB
ham.stackexchange.com.7z 914.2 KB
hermeneutics.stackexchange.com.7z 8.2 MB
history.stackexchange.com.7z 9.5 MB
homebrew.stackexchange.com.7z 5.8 MB
islam.stackexchange.com.7z 7.1 MB
italian.stackexchange.com.7z 537.1 KB
japanese.stackexchange.com.7z 8.9 MB
judaism.stackexchange.com.7z 23.0 MB
linguistics.stackexchange.com.7z 5.6 MB
magento.stackexchange.com.7z 8.1 MB
martialarts.stackexchange.com.7z 2.5 MB
math.stackexchange.com.7z 432.3 MB
mathematica.stackexchange.com.7z 40.8 MB
mathoverflow.net.7z 135.7 MB
mechanics.stackexchange.com.7z 5.0 MB
meta.academia.stackexchange.com.7z 474.3 KB
meta.android.stackexchange.com.7z 1.2 MB
meta.anime.stackexchange.com.7z 712.7 KB
meta.apple.stackexchange.com.7z 1.6 MB
meta.askubuntu.com.7z 5.5 MB
meta.astronomy.stackexchange.com.7z 160.6 KB
meta.aviation.stackexchange.com.7z 134.2 KB
meta.avp.stackexchange.com.7z 254.6 KB
meta.bicycles.stackexchange.com.7z 717.9 KB
meta.biology.stackexchange.com.7z 403.7 KB
meta.bitcoin.stackexchange.com.7z 321.5 KB
meta.blender.stackexchange.com.7z 256.5 KB
meta.boardgames.stackexchange.com.7z 885.3 KB
meta.bricks.stackexchange.com.7z 171.3 KB
meta.chemistry.stackexchange.com.7z 262.1 KB
meta.chess.stackexchange.com.7z 173.0 KB
meta.chinese.stackexchange.com.7z 243.4 KB
meta.christianity.stackexchange.com.7z 2.3 MB
meta.codegolf.stackexchange.com.7z 965.8 KB
meta.codereview.stackexchange.com.7z 1.2 MB
meta.cogsci.stackexchange.com.7z 671.0 KB
meta.cooking.stackexchange.com.7z 1.7 MB
meta.crypto.stackexchange.com.7z 382.5 KB
meta.cs.stackexchange.com.7z 810.4 KB
meta.cstheory.stackexchange.com.7z 1.5 MB
meta.dba.stackexchange.com.7z 911.7 KB
meta.diy.stackexchange.com.7z 609.9 KB
meta.drupal.stackexchange.com.7z 1.2 MB
meta.dsp.stackexchange.com.7z 187.4 KB
meta.ebooks.stackexchange.com.7z 97.6 KB
meta.electronics.stackexchange.com.7z 1.9 MB
meta.ell.stackexchange.com.7z 791.1 KB
meta.english.stackexchange.com.7z 3.9 MB
meta.expressionengine.stackexchange.com.7z 178.3 KB
meta.fitness.stackexchange.com.7z 434.6 KB
meta.freelancing.stackexchange.com.7z 136.1 KB
meta.french.stackexchange.com.7z 519.9 KB
meta.gamedev.stackexchange.com.7z 1.2 MB
meta.gaming.stackexchange.com.7z 6.2 MB
meta.gardening.stackexchange.com.7z 385.0 KB
meta.genealogy.stackexchange.com.7z 682.9 KB
meta.german.stackexchange.com.7z 562.2 KB
meta.gis.stackexchange.com.7z 1.1 MB
meta.graphicdesign.stackexchange.com.7z 695.3 KB
meta.ham.stackexchange.com.7z 102.9 KB
meta.hermeneutics.stackexchange.com.7z 1.2 MB
meta.history.stackexchange.com.7z 738.1 KB
meta.homebrew.stackexchange.com.7z 188.7 KB
meta.islam.stackexchange.com.7z 682.5 KB
meta.italian.stackexchange.com.7z 87.4 KB
meta.japanese.stackexchange.com.7z 1.0 MB
meta.judaism.stackexchange.com.7z 1.5 MB
meta.linguistics.stackexchange.com.7z 445.1 KB
meta.magento.stackexchange.com.7z 143.7 KB
meta.martialarts.stackexchange.com.7z 317.2 KB
meta.math.stackexchange.com.7z 10.0 MB
meta.mathematica.stackexchange.com.7z 1.2 MB
meta.mathoverflow.net.7z 1.5 MB
meta.mechanics.stackexchange.com.7z 187.6 KB
meta.money.stackexchange.com.7z 648.5 KB
meta.movies.stackexchange.com.7z 871.7 KB
meta.music.stackexchange.com.7z 541.1 KB
meta.networkengineering.stackexchange.com.7z 247.4 KB
meta.opendata.stackexchange.com.7z 110.1 KB
meta.outdoors.stackexchange.com.7z 252.7 KB
meta.parenting.stackexchange.com.7z 593.7 KB
meta.patents.stackexchange.com.7z 178.6 KB
meta.pets.stackexchange.com.7z 441.4 KB
meta.philosophy.stackexchange.com.7z 675.9 KB
meta.photo.stackexchange.com.7z 2.0 MB
meta.physics.stackexchange.com.7z 3.3 MB
meta.pm.stackexchange.com.7z 581.1 KB
meta.poker.stackexchange.com.7z 99.4 KB
meta.politics.stackexchange.com.7z 396.6 KB
meta.productivity.stackexchange.com.7z 230.8 KB
meta.programmers.stackexchange.com.7z 5.7 MB
meta.quant.stackexchange.com.7z 257.6 KB
meta.raspberrypi.stackexchange.com.7z 313.0 KB
meta.reverseengineering.stackexchange.com.7z 227.4 KB
meta.robotics.stackexchange.com.7z 168.9 KB
meta.rpg.stackexchange.com.7z 1.8 MB
meta.russian.stackexchange.com.7z 266.6 KB
meta.salesforce.stackexchange.com.7z 335.2 KB
meta.scicomp.stackexchange.com.7z 309.4 KB
meta.scifi.stackexchange.com.7z 2.8 MB
meta.security.stackexchange.com.7z 1.3 MB
meta.serverfault.com.7z 4.2 MB
meta.sharepoint.stackexchange.com.7z 614.4 KB
meta.skeptics.stackexchange.com.7z 2.3 MB
meta.sound.stackexchange.com.7z 41.8 KB
meta.space.stackexchange.com.7z 441.1 KB
meta.spanish.stackexchange.com.7z 268.6 KB
meta.sports.stackexchange.com.7z 373.2 KB
meta.sqa.stackexchange.com.7z 154.7 KB
meta.stackoverflow.com.7z 141.6 MB
meta.stats.stackexchange.com.7z 1.8 MB
meta.superuser.com.7z 6.5 MB
meta.sustainability.stackexchange.com.7z 174.6 KB
meta.tex.stackexchange.com.7z 3.9 MB
meta.tor.stackexchange.com.7z 109.9 KB
meta.travel.stackexchange.com.7z 1.1 MB
meta.tridion.stackexchange.com.7z 196.4 KB
meta.unix.stackexchange.com.7z 1.3 MB
meta.ux.stackexchange.com.7z 1.3 MB
meta.webapps.stackexchange.com.7z 1,021.4 KB
meta.webmasters.stackexchange.com.7z 876.0 KB
meta.windowsphone.stackexchange.com.7z 125.8 KB
meta.wordpress.stackexchange.com.7z 1.4 MB
meta.workplace.stackexchange.com.7z 1.4 MB
meta.writers.stackexchange.com.7z 674.8 KB
money.stackexchange.com.7z 16.5 MB
movies.stackexchange.com.7z 9.0 MB
music.stackexchange.com.7z 9.5 MB
networkengineering.stackexchange.com.7z 3.6 MB
opendata.stackexchange.com.7z 1.0 MB
outdoors.stackexchange.com.7z 3.3 MB
parenting.stackexchange.com.7z 8.9 MB
patents.stackexchange.com.7z 3.1 MB
pets.stackexchange.com.7z 1.8 MB
philosophy.stackexchange.com.7z 9.3 MB
photo.stackexchange.com.7z 33.1 MB
physics.stackexchange.com.7z 77.0 MB
pm.stackexchange.com.7z 7.0 MB
poker.stackexchange.com.7z 1.2 MB
politics.stackexchange.com.7z 3.1 MB
productivity.stackexchange.com.7z 5.4 MB
programmers.stackexchange.com.7z 135.1 MB
quant.stackexchange.com.7z 5.9 MB
raspberrypi.stackexchange.com.7z 7.3 MB
reverseengineering.stackexchange.com.7z 2.4 MB
robotics.stackexchange.com.7z 2.2 MB
rpg.stackexchange.com.7z 28.3 MB
russian.stackexchange.com.7z 2.3 MB
salesforce.stackexchange.com.7z 14.8 MB
scicomp.stackexchange.com.7z 6.9 MB
scifi.stackexchange.com.7z 34.7 MB
security.stackexchange.com.7z 39.0 MB
serverfault.com.7z 321.8 MB
sharepoint.stackexchange.com.7z 43.4 MB
skeptics.stackexchange.com.7z 20.9 MB
sound.stackexchange.com.7z 10.1 MB
space.stackexchange.com.7z 3.3 MB
spanish.stackexchange.com.7z 3.2 MB
sports.stackexchange.com.7z 2.9 MB
sqa.stackexchange.com.7z 4.6 MB
stackapps.com.7z 4.9 MB
stackoverflow.com-Badges.7z 61.2 MB
stackoverflow.com-Comments.7z 1.4 GB
stackoverflow.com-PostHistory.7z 7.5 GB
stackoverflow.com-PostLinks.7z 19.7 MB
stackoverflow.com-Posts.7z 4.6 GB
stackoverflow.com-Users.7z 77.3 MB
stackoverflow.com-Votes.7z 307.0 MB
stats.stackexchange.com.7z 71.9 MB
superuser.com.7z 360.3 MB
sustainability.stackexchange.com.7z 1.5 MB
tex.stackexchange.com.7z 140.5 MB
tor.stackexchange.com.7z 888.6 KB
travel.stackexchange.com.7z 15.8 MB
tridion.stackexchange.com.7z 3.2 MB
unix.stackexchange.com.7z 77.1 MB
ux.stackexchange.com.7z 34.1 MB
webapps.stackexchange.com.7z 20.1 MB
webmasters.stackexchange.com.7z 28.8 MB
windowsphone.stackexchange.com.7z 1.4 MB
wordpress.stackexchange.com.7z 69.6 MB
workplace.stackexchange.com.7z 14.3 MB
writers.stackexchange.com.7z 7.8 MB

Der Aufbau aller Dateien ist (mehr oder weniger) identisch. Alle Dateien sind mit 7-Zip (http://www.7-zip.de/) gepackt und enthalten eine Reihe von XML Dateien:

  • **badges**.xml
  • **comments**.xml
  • **posts**.xml
  • **posthistory**.xml
  • **postlinks**.xml
  • **users**.xml
  • **votes**.xml

Wer das Prinzip von Stack Overflow kennt (Frage, Antwort, Kommentar, Vote, etc.) kennt, kommt schnell hinter das Prinzip der XML Dateien. Wer es dennoch gemauer wissen möchte, kann unter https://archive.org/details/stackexchange in die dort verlinkte readme.txt Datei schauen. Dort sind alle Details zu den unterschiedlichen XML Dateien aufgeführt.

Hier am Beispiel der „**votes**.xml Datei kurz erklärt.

Jeder Vote enthält eine Zeile in der votes.xml Datei. Jeder Eintrag enthält die Spalten Id, PostId, VoteTypeId, CreationDate, UserId und BountyAmount. Über die PostId und die UserId können die Votes dem Jeweiligen Beitrag und Nutzer zugeordnet werden.

   - **votes**.xml
     - Id
     - PostId
     - VoteTypeId
        - ` 1`: AcceptedByOriginator
        - ` 2`: UpMod
        - ` 3`: DownMod
        - ` 4`: Offensive
        - ` 5`: Favorite - if VoteTypeId = 5 UserId will be populated
        - ` 6`: Close
        - ` 7`: Reopen
        - ` 8`: BountyStart
        - ` 9`: BountyClose
        - `10`: Deletion
        - `11`: Undeletion
        - `12`: Spam
        - `13`: InformModerator
     - CreationDate
     - UserId (only for VoteTypeId 5)
     - BountyAmount (only for VoteTypeId 9)

BigData lässt grüßen :-).

Nun seid ihr gefragt. Was kann man mit so einer Menge an Daten anfangen?

 

Meine Apps im Google Play-Strore Jetzt bei Google Play