Merge branch 'master' of github.com:ekg/wikiq

updated README file and documentation

remove shannon entropy as something computed

It's really just nothing something most people will use it and it's
somewhat expensive to compute.

collapse datetime into a single header

It's already a single field.

added code and docs to search for regex within the content of revisions

change diff regex options from -n and -r to -N and -R

rename variables so regex/regexes is diff_regex/regex

All the code to check for patterns within diff are named regex,
regexes, etc. This is problematic because (a) we already have one more
place we can check for regex and (b) I'm about to about add code to look
for regex in abitrary revisions (/not/ diffs). This change "makes room"
for the next one.

renamed variables for title regex

The variables used to be called wp_namespace_* which was confusing
because the software is not only useful for Wikipedia and is not only
useful for matching namespaces.

ignore object files created in compilation

Merge pull request #2 from makoshark/master

regex titles and static linking

made changes necessary to build a static version

Working with Bernie Innocenti, I completely overhauled the Makefile with
the goal of having it be able to build static versions of the library
which I need to run it on my cluster. In general, this has simplified
the Makefile. I had to make one small change to the disorder file in the
process.

added support for regex title matching

Added support for regex matching of titles to (for example) match only
things from particular namespaces. In the process, I changed the "t"
option which prints out text to "d" for debug and used the t option for
taking title regexes.

Merge pull request #1 from makoshark/master.

Two Quick Fixes from Mako

lower case N in the usage instructions

fix bug and invoke regex search in first revision

Regex search was only being called in diffs. Of course, if something is
added in the very first revision, it will never show up in a diff. This
was resulting in deletions that don't show up as additions. I've patched
the code so that the first revision is treated as one big addition.

dynamically resize article text buffer if we would overflow

updated README

help text updates

regex against article diffs and checksum-based revert detection

added (broken, but running) diff routines for block-level diffs

add md5sum, entropy

added shannon_H entropy metric for each revision

resolved performance bug in cdata handling of revision text

Previously, when appending character data to long text fields, each call
to charhndl required a call to strlen on the text field to which the new
character data was to be appended.  This is O(N^2)!  The problem was
most severe for vandalized articles with inlined HTML, but it ultimately
affected all data parsing as expat calls the charhndl function every
time it resolves a default XML entity.

By tracking the length of each field in our revisionData structure and
using a custom strncat-type function, it's possible to avoid this
overhead.  Now, we are pipe-buffer-bound when processing a 7z-compressed
mediawiki dump.  The current simple english wiki dump takes about 3
minutes to process on my 2x2.4ghz laptop, even when handling all text
data.  Just decompressing it to /dev/null takes around 1 minute.

buffer storage of text data, structure cleanup

Using a 2MB fixed-size buffer for the article text data speeds up
processing dramatically when text data is not thrown away.

properly implemented text and comment omission flag

moved from gcc to g++

Revert "changed compilation flags to -O3"

This reverts commit 315071f4419c2e34fd367e09d24818807353c91e.

changed compilation flags to -O3

parseData -> revisionData

first produced in the summer of 2006, finally published!