projects.mako.cc - mw/blob - src/mw/metadir.py

   1 ###
   2 # mw - VCS-like nonsense for MediaWiki websites
   3 # Copyright (C) 2011  Ian Weller <ian@ianweller.org> and others
   4 #
   5 # This program is free software; you can redistribute it and/or modify
   6 # it under the terms of the GNU General Public License as published by
   7 # the Free Software Foundation; either version 2 of the License, or
   8 # (at your option) any later version.
   9 #
  10 # This program is distributed in the hope that it will be useful,
  11 # but WITHOUT ANY WARRANTY; without even the implied warranty of
  12 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  13 # GNU General Public License for more details.
  14 #
  15 # You should have received a copy of the GNU General Public License along
  16 # with this program.  If not, see <http://www.gnu.org/licenses/>.
  17 ###
  18
  19 import bzrlib.diff
  20 import codecs
  21 import ConfigParser
  22 import json
  23 import os
  24 from StringIO import StringIO
  25 import sys
  26
  27
  28 class Metadir(object):
  29
  30     def __init__(self):
  31         self.me = os.path.basename(sys.argv[0])
  32         root = os.getcwd()
  33         while True:
  34             if '.mw' in os.listdir(root):
  35                 self.root = root
  36                 break
  37             head = os.path.split(root)[0]
  38             if head == root:
  39                 self.root = os.getcwd()
  40                 break
  41             root = head
  42         self.location = os.path.join(self.root, '.mw')
  43         self.config_loc = os.path.join(self.location, 'config')
  44         if os.path.isdir(self.location) and \
  45            os.path.isfile(self.config_loc):
  46             self.config = ConfigParser.RawConfigParser()
  47             self.config.read(self.config_loc)
  48         else:
  49             self.config = None
  50
  51     def save_config(self):
  52         with open(self.config_loc, 'wb') as config_file:
  53             self.config.write(config_file)
  54
  55     def create(self, api_url):
  56         # create the directory
  57         if os.path.isdir(self.location):
  58             print '%s: you are already in a mw repo' % self.me
  59             sys.exit(1)
  60         else:
  61             os.mkdir(self.location, 0755)
  62         # metadir versioning
  63         fd = file(os.path.join(self.location, 'version'), 'w')
  64         fd.write('1')  # XXX THIS API VERSION NOT LOCKED IN YET
  65         fd.close()
  66         # create config
  67         self.config = ConfigParser.RawConfigParser()
  68         self.config.add_section('remote')
  69         self.config.set('remote', 'api_url', api_url)
  70         self.save_config()
  71         # create cache/
  72         os.mkdir(os.path.join(self.location, 'cache'))
  73         # create cache/pagedict
  74         fd = file(os.path.join(self.location, 'cache', 'pagedict'), 'w')
  75         fd.write(json.dumps({}))
  76         fd.close()
  77         # create cache/pages/
  78         os.mkdir(os.path.join(self.location, 'cache', 'pages'), 0755)
  79
  80     def clean_page(self, pagename):
  81         filename = pagename_to_filename(pagename) + '.wiki'
  82         cur_content = codecs.open(filename, 'r', 'utf-8').read()
  83         if len(cur_content) != 0 and cur_content[-1] == '\n':
  84             cur_content = cur_content[:-1]
  85         fd = file(filename, 'w')
  86         fd.write(cur_content.encode('utf-8'))
  87         fd.close()
  88
  89     def pagedict_add(self, pagename, pageid, currentrv):
  90         fd = file(os.path.join(self.location, 'cache', 'pagedict'), 'r+')
  91         pagedict = json.loads(fd.read())
  92         pagedict[pagename] = {'id': int(pageid), 'currentrv': int(currentrv)}
  93         fd.seek(0)
  94         fd.write(json.dumps(pagedict))
  95         fd.truncate()
  96         fd.close()
  97
  98     def get_pageid_from_pagename(self, pagename):
  99         fd = file(os.path.join(self.location, 'cache', 'pagedict'), 'r')
 100         pagedict = json.loads(fd.read())
 101         pagename = pagename.decode('utf-8')
 102         if pagename in pagedict.keys():
 103             return pagedict[pagename]
 104         else:
 105             return None
 106
 107     def pages_add_rv(self, pageid, rv):
 108         pagefile = os.path.join(self.location, 'cache', 'pages', str(pageid))
 109         fd = file(pagefile, 'w+')
 110         pagedata_raw = fd.read()
 111         if pagedata_raw == '':
 112             pagedata = {}
 113         else:
 114             pagedata = json.loads(pagedata_raw)
 115         rvid = int(rv['revid'])
 116         pagedata[rvid] = {
 117                 'user': rv['user'],
 118                 'timestamp': rv['timestamp'],
 119         }
 120         if '*' in rv.keys():
 121             pagedata[rvid]['content'] = rv['*']
 122         fd.seek(0)
 123         fd.write(json.dumps(pagedata))
 124         fd.truncate()
 125         fd.close()
 126
 127     def pages_get_rv_list(self, pageid):
 128         pagefile = os.path.join(self.location, 'cache', 'pages',
 129                                 str(pageid['id']))
 130         fd = file(pagefile, 'r')
 131         pagedata = json.loads(fd.read())
 132         rvs = [int(x) for x in pagedata.keys()]
 133         rvs.sort()
 134         return rvs
 135
 136     def pages_get_rv(self, pageid, rvid):
 137         pagefile = os.path.join(self.location, 'cache', 'pages',
 138                                 str(pageid['id']))
 139         fd = file(pagefile, 'r')
 140         pagedata = json.loads(fd.read())
 141         return pagedata[str(rvid)]
 142
 143     def working_dir_status(self, files=None):
 144         status = {}
 145         check = []
 146         if files == None or files == []:
 147             for root, dirs, files in os.walk(self.root):
 148                 if root == self.root:
 149                     dirs.remove('.mw')
 150                 for name in files:
 151                     check.append(os.path.join(root, name))
 152         else:
 153             for file in files:
 154                 check.append(os.path.join(os.getcwd(), file))
 155         check.sort()
 156         for full in check:
 157             name = os.path.split(full)[1]
 158             if name[-5:] == '.wiki':
 159                 pagename = filename_to_pagename(name[:-5])
 160                 pageid = self.get_pageid_from_pagename(pagename)
 161                 if not pageid:
 162                     status[os.path.relpath(full, self.root)] = '?'
 163                 else:
 164                     rvid = self.pages_get_rv_list(pageid)[-1]
 165                     rv = self.pages_get_rv(pageid, rvid)
 166                     cur_content = codecs.open(full, 'r', 'utf-8').read()
 167                     if (len(cur_content) != 0) and (cur_content[-1] == '\n'):
 168                         cur_content = cur_content[:-1]
 169                     if cur_content != rv['content']:
 170                         status[os.path.relpath(full, self.root)] = 'M' # modified
 171                     else:
 172                         status[os.path.relpath(full, self.root)] = 'C' # clean
 173         return status
 174
 175     def diff_rv_to_working(self, pagename, oldrvid=0, newrvid=0):
 176         # oldrvid=0 means latest fetched revision
 177         # newrvid=0 means working copy
 178         filename = pagename_to_filename(pagename) + '.wiki'
 179         filename = filename.decode('utf-8')
 180         pageid = self.get_pageid_from_pagename(pagename)
 181         if not pageid:
 182             raise ValueError('page named %s has not been fetched' % pagename)
 183         else:
 184             if oldrvid == 0:
 185                 oldrvid = self.pages_get_rv_list(pageid)[-1]
 186             oldrv = self.pages_get_rv(pageid, oldrvid)
 187             oldname = 'a/%s (revision %i)' % (filename, oldrvid)
 188             old = [i + '\n' for i in \
 189                    oldrv['content'].encode('utf-8').split('\n')]
 190             if newrvid == 0:
 191                 cur_content = codecs.open(filename, 'r', 'utf-8').read()
 192                 cur_content = cur_content.encode('utf-8')
 193                 if (len(cur_content) != 0) and (cur_content[-1] == '\n'):
 194                     cur_content = cur_content[:-1]
 195                 newname = 'b/%s (working copy)' % filename
 196                 new = [i + '\n' for i in cur_content.split('\n')]
 197             else:
 198                 newrv = self.pages_get_rv(pageid, newrvid)
 199                 newname = 'b/%s (revision %i)' % (filename, newrvid)
 200                 new = [i + '\n' for i in newrv['content'].split('\n')]
 201             diff_fd = StringIO()
 202             bzrlib.diff.internal_diff(oldname, old, newname, new, diff_fd)
 203             diff = diff_fd.getvalue()
 204             if diff[-1] == '\n':
 205                 diff = diff[:-1]
 206             return diff
 207
 208
 209 def pagename_to_filename(name):
 210     name = name.replace(' ', '_')
 211     name = name.replace('/', '!')
 212     return name
 213
 214
 215 def filename_to_pagename(name):
 216     name = name.replace('!', '/')
 217     name = name.replace('_', ' ')
 218     return name