Working branch `elmo-lunafy' is created.
[elisp/wanderlust.git] / elmo / elmo-archive.el
1 ;;; elmo-archive.el -- Archive folder of ELMO.
2
3 ;; Copyright (C) 1998,1999,2000 OKUNISHI Fujikazu <fuji0924@mbox.kyoto-inet.or.jp>
4 ;; Copyright (C) 1998,1999,2000 Yuuichi Teranishi <teranisi@gohome.org>
5
6 ;; Author: OKUNISHI Fujikazu <fuji0924@mbox.kyoto-inet.or.jp>
7 ;;      Yuuichi Teranishi <teranisi@gohome.org>
8 ;; Keywords: mail, net news
9 ;; Created: Sep 13, 1998
10
11 ;; This file is part of ELMO (Elisp Library for Message Orchestration).
12
13 ;; This program is free software; you can redistribute it and/or modify
14 ;; it under the terms of the GNU General Public License as published by
15 ;; the Free Software Foundation; either version 2, or (at your option)
16 ;; any later version.
17 ;;
18 ;; This program is distributed in the hope that it will be useful,
19 ;; but WITHOUT ANY WARRANTY; without even the implied warranty of
20 ;; MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
21 ;; GNU General Public License for more details.
22 ;;
23 ;; You should have received a copy of the GNU General Public License
24 ;; along with GNU Emacs; see the file COPYING.  If not, write to the
25 ;; Free Software Foundation, Inc., 59 Temple Place - Suite 330,
26 ;; Boston, MA 02111-1307, USA.
27 ;;
28
29 ;;; Commentary:
30 ;; 
31 ;; TODO:
32 ;; Info-Zip ÀìÍÑ¥¨¡¼¥¸¥§¥ó¥È¤òÍѤ¤¤¿ÆüËܸ측º÷¡ÊOS/2 ÀìÍÑ¡Ë¡£
33
34 ;;; Code:
35 ;; 
36
37 (require 'elmo-msgdb)
38 (require 'emu)
39 (require 'std11)
40 (eval-when-compile (require 'elmo-localdir))
41
42 ;;; User vars.
43 (defvar elmo-archive-lha-dos-compatible
44   (memq system-type '(OS/2 emx windows-nt))
45   "*If non-nil, regard your LHA as compatible to DOS version.")
46
47 (defvar elmo-archive-use-izip-agent (memq system-type '(OS/2 emx))
48   "*If non-nil, use the special agent in fetching headers.")
49
50 (defvar elmo-archive-folder-path "~/Mail"
51   "*Base directory for archive folders.")
52
53 (defvar elmo-archive-basename "elmo-archive"
54   "*Common basename of archive folder file, w/o suffix.")
55
56 (defvar elmo-archive-cmdstr-max-length 8000 ; SASAKI Osamu's suggestion
57   "*Command line string limitation under OS/2, exactly 8190 bytes.")
58
59 (defvar elmo-archive-fetch-headers-volume 50
60   "*Quantity of article headers to fetch per once.")
61
62 (defvar elmo-archive-dummy-file ".elmo-archive"
63   "*Name of dummy file that will be appended when the folder is null.")
64
65 (defvar elmo-archive-check-existance-strict t
66   "*Check existance of archive contents if non-nil.")
67
68 (defvar elmo-archive-load-hook nil
69   "*Hook called after loading elmo-archive.el.")
70
71 (defvar elmo-archive-treat-file nil
72   "*Treat archive folder as a file if non-nil.")
73
74 ;;; User variables for elmo-archive.
75 (defvar elmo-archive-default-type 'zip
76   "*Default archiver type.  The value must be a symbol.")
77
78 (defvar elmo-archive-use-cache nil
79   "Use cache in archive folder.")
80
81 ;;; ELMO Local directory folder
82 (eval-and-compile
83   (luna-define-class elmo-archive-folder (elmo-folder)
84                      (archive-name archive-type archive-prefix))
85   (luna-define-internal-accessors 'elmo-archive-folder))
86
87 (luna-define-method elmo-folder-initialize ((folder
88                                              elmo-archive-folder)
89                                             name)
90   (when (string-match
91          "^\\([^;]*\\);?\\([^;]*\\);?\\([^;]*\\)$"
92          name)
93     ;; Drive letter is OK!
94     (or (elmo-archive-folder-set-archive-name-internal
95          folder (elmo-match-string 1 name))
96         (elmo-archive-folder-set-archive-name-internal
97          folder ""))
98     (or (elmo-archive-folder-set-archive-type-internal
99          folder (intern-soft (elmo-match-string 2 name)))
100         (elmo-archive-folder-set-archive-type-internal
101          folder elmo-archive-default-type))
102     (or (elmo-archive-folder-set-archive-prefix-internal
103          folder (elmo-match-string 3 name))
104         (elmo-archive-folder-set-archive-prefix-internal
105          folder "")))
106   folder)
107
108 (luna-define-method elmo-folder-expand-msgdb-path ((folder
109                                                     elmo-archive-folder))
110   ;; For compatibility
111   (expand-file-name
112    (elmo-replace-string-as-filename
113     (elmo-folder-name-internal folder))
114    (expand-file-name (concat (symbol-name (elmo-folder-type-internal folder))
115                              "/"
116                              (symbol-name
117                               (elmo-archive-folder-archive-type-internal
118                                folder)))
119                      elmo-msgdb-dir)))
120
121 ;;; MMDF parser -- info-zip agent w/ REXX
122 (defvar elmo-mmdf-delimiter "^\01\01\01\01$"
123   "*Regular expression of MMDF delimiter.")
124
125 (defvar elmo-unixmail-delimiter "^From \\([^ \t]+\\) \\(.+\\)"
126   "*Regular expression of UNIX Mail delimiter.")
127
128 (defvar elmo-archive-header-regexp "^[ \t]*[-=][-=][-=][-=]"
129   "*Common regexp of the delimiter in listing archive.") ; marche
130
131 (defvar elmo-archive-file-regexp-alist
132   (append
133    (if elmo-archive-lha-dos-compatible
134        '((lha . "^%s\\([0-9]+\\)$"))    ; OS/2,DOS w/  "-x"
135      '((lha . "^.*[ \t]%s\\([0-9]+\\)$")))
136    '((zip . "^.*[ \t]%s\\([0-9]+\\)$")
137      (zoo . "^.*[ \t]%s\\([0-9]+\\)$")
138      (tar . "^%s\\([0-9]+\\)$")         ; ok
139      (tgz . "^%s\\([0-9]+\\)$")         ; ok
140      (rar . "^[ \t]%s\\([0-9]+\\)$"))))
141
142 (defvar elmo-archive-suffix-alist
143    '((lha . ".lzh")  ; default
144 ;;;  (lha . ".lzs")
145      (zip . ".zip")
146      (zoo . ".zoo")
147 ;;;  (arc . ".arc")
148 ;;;  (arj . ".arj")
149      (rar . ".rar")
150      (tar . ".tar")
151      (tgz . ".tar.gz")))
152
153 ;;; lha
154 (defvar elmo-archive-lha-method-alist
155   (if elmo-archive-lha-dos-compatible
156       ;; OS/2
157       '((cp  . ("lha" "u" "-x"))
158         (mv  . ("lha" "m" "-x"))
159         (rm  . ("lha" "d"))
160         (ls  . ("lha" "l" "-x"))
161         (cat . ("lha" "p" "-n"))
162         (ext . ("lha" "x"))             ; "-x"
163         )
164     ;; some UN|X
165     '((cp  . ("lha" "u"))
166       (mv  . ("lha" "m"))
167       (rm  . ("lha" "d"))
168       (ls  . ("lha" "l"))
169       (cat . ("lha" "pq"))
170       (ext . ("lha" "x")))))
171
172 ;;; info-zip/unzip
173 (defvar elmo-archive-zip-method-alist
174   '((cp       . ("zip" "-9q"))
175     (cp-pipe  . ("zip" "-9q@"))
176     (mv       . ("zip" "-mDq9"))
177     (mv-pipe  . ("zip" "-mDq9@"))
178     (rm       . ("zip" "-dq"))
179     (rm-pipe  . ("zip" "-dq@"))
180     (ls       . ("unzip" "-lq"))
181     (cat      . ("unzip" "-pq"))
182     (ext      . ("unzip"))
183     (cat-headers . ("izwlagent" "--cat"))))
184
185 ;;; zoo
186 (defvar elmo-archive-zoo-method-alist
187   '((cp       . ("zoo" "aq"))
188     (cp-pipe  . ("zoo" "aqI"))
189     (mv       . ("zoo" "aMq"))
190     (mv-pipe  . ("zoo" "aMqI"))
191     (rm       . ("zoo" "Dq"))
192     (ls       . ("zoo" "l"))            ; normal
193     (cat      . ("zoo" "xpq"))
194     (ext      . ("zoo" "xq"))))
195
196 ;;; rar
197 (defvar elmo-archive-rar-method-alist
198   '((cp       . ("rar" "u" "-m5"))
199     (mv       . ("rar" "m" "-m5"))
200     (rm       . ("rar" "d"))
201     (ls       . ("rar" "v"))
202     (cat      . ("rar" "p" "-inul"))
203     (ext      . ("rar" "x"))))
204
205 ;;; GNU tar (*.tar)
206 (defvar elmo-archive-tar-method-alist
207   (if elmo-archive-lha-dos-compatible
208       '((ls   . ("gtar" "-tf"))
209         (cat  . ("gtar" "--posix Oxf"))
210         (ext  . ("gtar" "-xf"))
211 ;;;     (rm   . ("gtar" "--posix" "--delete" "-f")) ; well not work
212         )
213     '((ls    . ("gtar" "-tf"))
214       (cat   . ("gtar" "-Oxf"))
215       (ext   . ("gtar" "-xf"))
216 ;;;     (rm    . ("gtar" "--delete" "-f")) ;; well not work
217       )))
218
219 ;;; GNU tar (*.tar.gz, *.tar.Z, *.tar.bz2)
220 (defvar elmo-archive-tgz-method-alist
221   '((ls         . ("gtar" "-ztf"))
222     (cat        . ("gtar" "-Ozxf"))
223     (create     . ("gtar" "-zcf"))
224 ;;; (rm         . elmo-archive-tgz-rm-func)
225     (cp         . elmo-archive-tgz-cp-func)
226     (mv         . elmo-archive-tgz-mv-func)
227     (ext        . ("gtar" "-zxf"))
228     ;; tgz special method
229     (decompress . ("gzip" "-d"))
230     (compress   . ("gzip"))
231     (append     . ("gtar" "-uf"))
232 ;;; (delete     . ("gtar" "--delete" "-f")) ; well not work
233     ))
234
235 (defvar elmo-archive-method-list
236   '(elmo-archive-lha-method-alist
237     elmo-archive-zip-method-alist
238     elmo-archive-zoo-method-alist
239 ;;; elmo-archive-tar-method-alist
240     elmo-archive-tgz-method-alist
241 ;;; elmo-archive-arc-method-alist
242 ;;; elmo-archive-arj-method-alist
243     elmo-archive-rar-method-alist))
244
245 ;;; Internal vars.
246 (defvar elmo-archive-method-alist nil)
247 (defvar elmo-archive-suffixes nil)
248
249
250 ;;; Macro
251 (defmacro elmo-archive-get-method (type action)
252   (` (cdr (assq (, action) (cdr (assq (, type)
253                                       elmo-archive-method-alist))))))
254
255 (defmacro elmo-archive-get-suffix (type)
256   (` (cdr (assq (, type)
257                 elmo-archive-suffix-alist))))
258
259 (defmacro elmo-archive-get-regexp (type)
260   (` (cdr (assq (, type)
261                 elmo-archive-file-regexp-alist))))
262
263 (static-if (boundp 'NEMACS)
264     (defsubst elmo-archive-call-process (prog args &optional output)
265       (apply 'call-process prog nil output nil args)
266       0)
267   (defsubst elmo-archive-call-process (prog args &optional output)
268     (= (apply 'call-process prog nil output nil args) 0)))
269
270 (defsubst elmo-archive-call-method (method args &optional output)
271   (cond
272    ((functionp method)
273     (funcall method args output))
274    (t
275     (elmo-archive-call-process
276      (car method) (append (cdr method) args) output))))
277
278 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
279 ;;; Scan Folder
280
281 (defsubst elmo-archive-list-folder-subr (folder &optional nonsort)
282   "*Returns list of number-file(int, not string) in archive FILE.
283 TYPE specifies the archiver's symbol."
284   (let* ((type (elmo-archive-folder-archive-type-internal folder))
285          (prefix (elmo-archive-folder-archive-prefix-internal folder))
286          (file (elmo-archive-get-archive-name folder))
287          (method (elmo-archive-get-method type 'ls))
288          (args (list file))
289          (file-regexp (format (elmo-archive-get-regexp type)
290                               (elmo-concat-path (regexp-quote prefix) "")))
291          (killed (elmo-folder-killed-list-internal folder))
292          numbers buf file-list header-end)
293     (if (file-exists-p file)
294         (with-temp-buffer
295           (unless (elmo-archive-call-method method args t)
296             (error "%s exited abnormally!" method))
297           (goto-char (point-min))
298           (when (re-search-forward elmo-archive-header-regexp nil t)
299             (forward-line 1)
300             (setq header-end (point))
301             (when (re-search-forward elmo-archive-header-regexp nil t)
302               (beginning-of-line)
303               (narrow-to-region header-end (point))
304               (goto-char (point-min))))
305           (while (and (re-search-forward file-regexp nil t)
306                       (not (eobp)))  ; for GNU tar 981010
307             (setq file-list (nconc file-list (list (string-to-int
308                                                     (match-string 1)))))))
309       (error "%s does not exist." file))
310     (if nonsort
311         (cons (or (elmo-max-of-list file-list) 0)
312               (if killed
313                   (- (length file-list)
314                      (elmo-msgdb-killed-list-length killed))
315                 (length file-list)))
316       (setq numbers (sort file-list '<))
317       (elmo-living-messages numbers killed))))
318
319 (luna-define-method elmo-folder-list-messages-internal ((folder
320                                                          elmo-archive-folder))
321   (elmo-archive-list-folder-subr folder))
322
323 (luna-define-method elmo-folder-status ((folder elmo-archive-folder))
324   (elmo-archive-list-folder-subr folder t))
325
326 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
327 ;;; Folder related functions
328
329 (defsubst elmo-archive-get-archive-directory (folder)
330   ;; allow fullpath. return format is "/foo/bar/".
331   (if (file-name-absolute-p (elmo-archive-folder-archive-name-internal folder))
332       (if (find-file-name-handler
333            (elmo-archive-folder-archive-name-internal folder)
334            'copy-file)
335           (elmo-archive-folder-archive-name-internal folder)
336         (expand-file-name (elmo-archive-folder-archive-name-internal folder)))
337     (expand-file-name (elmo-archive-folder-archive-name-internal folder)
338                       elmo-archive-folder-path)))
339
340 (defun elmo-archive-get-archive-name (folder)
341   (let ((dir (elmo-archive-get-archive-directory folder))
342         (suffix (elmo-archive-get-suffix
343                  (elmo-archive-folder-archive-type-internal
344                   folder)))
345         filename dbdir)
346     (if elmo-archive-treat-file
347         (if (string-match (concat (regexp-quote suffix) "$")
348                           (elmo-archive-folder-archive-name-internal folder))
349             (expand-file-name (elmo-archive-folder-archive-name-internal
350                                folder)
351                               elmo-archive-folder-path)
352           (expand-file-name (concat (elmo-archive-folder-archive-name-internal
353                                      folder)
354                                     suffix)
355                             elmo-archive-folder-path))
356       (if (and (let ((handler
357                       (find-file-name-handler dir 'copy-file))) ; dir is local.
358                  (or (not handler)
359                      (if (featurep 'xemacs)
360                          (eq handler 'dired-handler-fn))))
361                (or (not (file-exists-p dir))
362                    (file-directory-p dir)))
363           (expand-file-name
364            (concat elmo-archive-basename suffix)
365            dir)
366         ;; for full-path specification.
367         (if (find-file-name-handler dir 'copy-file) ; ange-ftp, efs
368             (progn
369               (setq filename (expand-file-name
370                               (concat elmo-archive-basename suffix)
371                               (setq dbdir
372                                     (elmo-folder-msgdb-path folder))))
373               (if (file-directory-p dbdir)
374                   (); ok.
375                 (if (file-exists-p dbdir)
376                     (error "File %s already exists" dbdir)
377                   (elmo-make-directory dbdir)))
378               (if (not (file-exists-p filename))
379                   (copy-file
380                    (if (file-directory-p dir)
381                        (expand-file-name
382                         (concat elmo-archive-basename suffix)
383                         dir)
384                      dir)
385                    filename))
386               filename)
387           dir)))))
388
389 (luna-define-method elmo-folder-exists-p ((folder elmo-archive-folder))
390   (file-exists-p (elmo-archive-get-archive-name folder)))
391
392 (luna-define-method elmo-folder-creatable-p ((folder elmo-archive-folder))
393   t)
394
395 (luna-define-method elmo-folder-create ((folder elmo-archive-folder))
396   (let* ((dir (directory-file-name      ; remove tail slash.
397                (elmo-archive-get-archive-directory folder)))
398          (type (elmo-archive-folder-archive-type-internal folder))
399          (arc (elmo-archive-get-archive-name folder)))
400     (if elmo-archive-treat-file
401         (setq dir (directory-file-name (file-name-directory dir))))
402     (cond ((and (file-exists-p dir)
403                 (not (file-directory-p dir)))
404            ;; file exists
405            (error "Create folder failed; File \"%s\" exists" dir))
406           ((file-directory-p dir)
407            (if (file-exists-p arc)
408                t                        ; return value
409              (elmo-archive-create-file arc type folder)))
410           (t
411            (elmo-make-directory dir)
412            (elmo-archive-create-file arc type folder)
413            t))))
414
415 (defun elmo-archive-create-file (archive type folder)
416   (save-excursion
417     (let* ((tmp-dir (directory-file-name
418                      (elmo-folder-msgdb-path folder)))
419            (dummy elmo-archive-dummy-file)
420            (method (or (elmo-archive-get-method type 'create)
421                        (elmo-archive-get-method type 'mv)))
422            (args (list archive dummy)))
423       (when (null method)
424         (ding)
425         (error "WARNING: read-only mode: %s (method undefined)" type))
426       (cond
427        ((file-directory-p tmp-dir)
428         ()) ;nop
429        ((file-exists-p tmp-dir)
430         ;; file exists
431         (error "Create directory failed; File \"%s\" exists" tmp-dir))
432        (t
433         (elmo-make-directory tmp-dir)))
434       (elmo-bind-directory
435        tmp-dir
436        (write-region (point) (point) dummy nil 'no-msg)
437        (prog1
438            (elmo-archive-call-method method args)
439          (if (file-exists-p dummy)
440              (delete-file dummy)))
441        ))))
442
443 (luna-define-method elmo-folder-delete ((folder elmo-archive-folder))
444   (let ((arc (elmo-archive-get-archive-name folder)))
445     (if (not (file-exists-p arc))
446         (error "No such file: %s" arc)
447       (delete-file arc)
448       t)))
449
450 (luna-define-method elmo-folder-rename-internal ((folder elmo-archive-folder)
451                                                  new-folder)
452   (let* ((old-arc (elmo-archive-get-archive-name folder))
453          (new-arc (elmo-archive-get-archive-name new-folder)))
454     (unless (and (eq (elmo-archive-folder-archive-type-internal folder)
455                      (elmo-archive-folder-archive-type-internal new-folder))
456                  (equal (elmo-archive-folder-archive-prefix-internal
457                          folder)
458                         (elmo-archive-folder-archive-prefix-internal
459                          new-folder)))
460       (error "Not same archive type and prefix"))
461     (if (not (file-exists-p old-arc))
462         (error "No such file: %s" old-arc)
463       (if (file-exists-p new-arc)
464           (error "Already exists: %s" new-arc)
465         (rename-file old-arc new-arc)
466         t))))
467
468 (defun elmo-archive-folder-list-subfolders (folder one-level)
469   (if elmo-archive-treat-file
470       (let* ((path (elmo-archive-get-archive-directory folder))
471              (base-folder (or (elmo-archive-folder-archive-name-internal
472                                folder)
473                               ""))
474              (suffix (elmo-archive-folder-archive-type-internal folder))
475              (prefix (if (string=
476                           (elmo-archive-folder-archive-prefix-internal folder)
477                           "")
478                          "" 
479                        (concat ";"
480                                (elmo-archive-folder-archive-prefix-internal
481                                 folder))))
482              (dir (if (file-directory-p path)
483                       path (file-name-directory path)))
484              (name (if (file-directory-p path)
485                        "" (file-name-nondirectory path)))
486              (flist (and (file-directory-p dir)
487                          (directory-files dir nil name nil)))
488              (regexp (format "^\\(.*\\)\\(%s\\)$"
489                              (mapconcat
490                               '(lambda (x) (regexp-quote (cdr x)))
491                               elmo-archive-suffix-alist
492                               "\\|"))))
493         (if (string-match "\\(.*\\)/$" base-folder) ; ends with '/'.
494             (setq base-folder (elmo-match-string 1 base-folder))
495           (unless (file-directory-p path)
496             (setq base-folder (or (file-name-directory base-folder)
497                                   base-folder))))
498         (delq
499          nil
500          (mapcar
501           '(lambda (x)
502              (when (and (string-match regexp x)
503                         (eq suffix
504                             (car
505                              (rassoc (elmo-match-string 2 x)
506                                      elmo-archive-suffix-alist))))
507                (format "%s%s;%s%s"
508                        (elmo-folder-prefix-internal folder)
509                        (elmo-concat-path base-folder (elmo-match-string 1 x))
510                        suffix prefix)))
511           flist)))
512     (mapcar
513      (lambda (x) (concat (elmo-folder-prefix-internal folder) x))
514      (elmo-list-subdirectories
515       (elmo-archive-get-archive-directory folder)
516       ""
517       one-level))))
518
519 (luna-define-method elmo-folder-list-subfolders ((folder elmo-archive-folder)
520                                                  &optional one-level)
521   (elmo-archive-folder-list-subfolders folder one-level))
522
523 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
524 ;;; Article file related functions
525 ;;; read(extract) / append(move) / delete(delete) / query(list)
526
527 (defsubst elmo-archive-message-fetch-internal (folder number)
528   (let* ((type (elmo-archive-folder-archive-type-internal folder))
529          (arc (elmo-archive-get-archive-name folder))
530          (prefix (elmo-archive-folder-archive-prefix-internal folder))
531          (method (elmo-archive-get-method type 'cat))
532          (args (list arc (elmo-concat-path
533                           prefix (int-to-string number)))))
534     (when (file-exists-p arc)
535       (and
536        (as-binary-process
537         (elmo-archive-call-method method args t))
538        (elmo-delete-cr-buffer)))))
539
540 (luna-define-method elmo-message-fetch ((folder elmo-archive-folder)
541                                         number strategy &optional section 
542                                         outbuf unseen)
543   (if outbuf
544       (with-current-buffer outbuf
545         (elmo-archive-message-fetch-internal folder number)
546         t)
547     (with-temp-buffer
548       (elmo-archive-message-fetch-internal folder number)
549       (buffer-string))))
550
551 (luna-define-method elmo-folder-append-buffer ((folder elmo-archive-folder)
552                                                unread &optional number)
553   (elmo-archive-folder-append-buffer folder unread number))
554
555 ;; verrrrrry slow!!
556 (defun elmo-archive-folder-append-buffer (folder unread number)
557   (let* ((type (elmo-archive-folder-archive-type-internal folder))
558          (prefix (elmo-archive-folder-archive-prefix-internal folder))
559          (arc (elmo-archive-get-archive-name folder))
560          (method (elmo-archive-get-method type 'mv))
561          (next-num (or number
562                        (1+ (if (file-exists-p arc)
563                                (car
564                                 (elmo-folder-status folder)) 0))))
565          (tmp-dir (elmo-folder-msgdb-path folder))
566          (src-buffer (current-buffer))
567          dst-buffer
568          newfile)
569     (when (null method)
570       (ding)
571       (error "WARNING: read-only mode: %s (method undefined)" type))
572     (with-temp-buffer
573       (let ((tmp-dir (expand-file-name prefix tmp-dir)))
574         (when (not (file-directory-p tmp-dir))
575           (elmo-make-directory (directory-file-name tmp-dir))))
576       (setq newfile (elmo-concat-path
577                      prefix
578                      (int-to-string next-num)))
579       (unwind-protect
580           (elmo-bind-directory
581            tmp-dir
582            (if (and (or (functionp method) (car method))
583                     (file-writable-p newfile))
584                (progn
585                  (setq dst-buffer (current-buffer))
586                  (with-current-buffer src-buffer
587                    (copy-to-buffer dst-buffer (point-min) (point-max)))
588                  (as-binary-output-file
589                   (write-region (point-min) (point-max) newfile nil 'no-msg))
590                  (elmo-archive-call-method method (list arc newfile)))
591              nil))))))
592
593 (luna-define-method elmo-folder-append-messages :around
594   ((folder elmo-archive-folder) src-folder numbers unread-marks
595    &optional same-number)
596   (cond
597    ((and same-number
598          (null (elmo-archive-folder-archive-prefix-internal folder))
599          (elmo-folder-message-file-p src-folder)
600          (elmo-folder-message-file-number-p src-folder))
601     ;; same-number(localdir, localnews) -> archive
602     (elmo-archive-append-files folder 
603                                (elmo-folder-message-file-directory src-folder)
604                                numbers)
605     numbers)
606    ((elmo-folder-message-make-temp-file-p src-folder)
607     ;; not-same-number (localdir, localnews), (archive maildir) -> archive
608     (let ((temp-dir (elmo-folder-message-make-temp-files
609                      src-folder
610                      numbers
611                      (unless same-number
612                        (1+ (if (file-exists-p (elmo-archive-get-archive-name
613                                                folder))
614                                (car (elmo-folder-status folder)) 0)))))
615           new-dir base-dir)
616       (setq base-dir temp-dir)
617       (when (> (length (elmo-archive-folder-archive-prefix-internal folder)) 0)
618         (rename-file
619          temp-dir
620          (setq new-dir 
621                (expand-file-name
622                 (elmo-archive-folder-archive-prefix-internal folder)
623                 ;; parent of temp-dir..(works in windows?)
624                 (expand-file-name ".." temp-dir))))
625         ;; now temp-dir has name prefix.
626         (setq temp-dir new-dir)
627         ;; parent of prefix becomes base-dir.
628         (setq base-dir (expand-file-name ".." temp-dir)))
629       (if (elmo-archive-append-files folder base-dir)
630           (elmo-delete-directory temp-dir)))
631     numbers)
632    (t (luna-call-next-method))))
633
634 (luna-define-method elmo-folder-message-make-temp-file-p
635   ((folder elmo-archive-folder))
636   (let ((type (elmo-archive-folder-archive-type-internal folder)))
637     (or (elmo-archive-get-method type 'ext-pipe)
638         (elmo-archive-get-method type 'ext))))
639
640 (luna-define-method elmo-folder-message-make-temp-files 
641   ((folder elmo-archive-folder) numbers
642    &optional start-number)
643   (elmo-archive-folder-message-make-temp-files folder numbers start-number))
644
645 (defun elmo-archive-folder-message-make-temp-files (folder
646                                                     numbers
647                                                     start-number)
648   (let* ((tmp-dir-src (elmo-folder-make-temp-dir folder))
649          (tmp-dir-dst (elmo-folder-make-temp-dir folder))
650          (arc     (elmo-archive-get-archive-name folder))
651          (type    (elmo-archive-folder-archive-type-internal folder))
652          (prefix  (elmo-archive-folder-archive-prefix-internal folder))
653          (p-method (elmo-archive-get-method type 'ext-pipe))
654          (n-method (elmo-archive-get-method type 'ext))
655          (tmp-msgs (mapcar (lambda (x) (elmo-concat-path
656                                         prefix
657                                         (int-to-string x))) numbers))
658          number)
659     ;; Expand files in the tmp-dir-src.
660     (elmo-bind-directory 
661      tmp-dir-src
662      (cond
663       ((functionp n-method)
664        (funcall n-method (cons arc tmp-msgs)))
665       (p-method
666        (let ((p-prog (car p-method))
667              (p-prog-arg (cdr p-method)))
668          (elmo-archive-exec-msgs-subr1
669           p-prog (append p-prog-arg (list arc)) tmp-msgs)))
670       (t
671        (let ((n-prog (car n-method))
672              (n-prog-arg (cdr n-method)))
673          (elmo-archive-exec-msgs-subr2
674           n-prog (append n-prog-arg (list arc)) tmp-msgs
675           (length arc))))))
676     ;; Move files to the tmp-dir-dst.
677     (setq number start-number)
678     (dolist (tmp-file tmp-msgs)
679       (rename-file (expand-file-name
680                     tmp-file
681                     tmp-dir-src)
682                    (expand-file-name
683                     (if start-number
684                         (int-to-string number)
685                       (file-name-nondirectory tmp-file))
686                     tmp-dir-dst))
687       (if start-number (incf number)))
688     ;; Remove tmp-dir-src.
689     (elmo-delete-directory tmp-dir-src)
690     ;; tmp-dir-dst is the return directory.
691     tmp-dir-dst))
692     
693 (defun elmo-archive-append-files (folder dir &optional files)
694   (let* ((dst-type (elmo-archive-folder-archive-type-internal folder))
695          (arc (elmo-archive-get-archive-name folder))
696          (prefix (elmo-archive-folder-archive-prefix-internal folder))
697          (p-method (elmo-archive-get-method dst-type 'cp-pipe))
698          (n-method (elmo-archive-get-method dst-type 'cp))
699          src tmp newfile)
700     (unless (elmo-folder-exists-p folder) (elmo-folder-create folder))
701     (unless files (setq files (directory-files dir nil "^[^\\.]")))
702     (when (null (or p-method n-method))
703       (ding)
704       (error "WARNING: read-only mode: %s (method undefined)" dst-type))
705     (save-excursion
706       (elmo-bind-directory
707        dir
708        (cond
709         ((functionp n-method)
710          (funcall n-method (cons arc files)))
711         (p-method
712          (let ((p-prog (car p-method))
713                (p-prog-arg (cdr p-method)))
714            (elmo-archive-exec-msgs-subr1
715             p-prog (append p-prog-arg (list arc)) files)))
716         (t
717          (let ((n-prog (car n-method))
718                (n-prog-arg (cdr n-method)))
719            (elmo-archive-exec-msgs-subr2
720             n-prog (append n-prog-arg (list arc)) files (length arc)))))))))
721
722 (luna-define-method elmo-folder-delete-messages ((folder elmo-archive-folder)
723                                                  numbers)
724   (let* ((type (elmo-archive-folder-archive-type-internal folder))
725          (prefix (elmo-archive-folder-archive-prefix-internal folder))
726          (arc (elmo-archive-get-archive-name folder))
727          (p-method (elmo-archive-get-method type 'rm-pipe))
728          (n-method (elmo-archive-get-method type 'rm))
729          (numbers (mapcar '(lambda (x) (elmo-concat-path
730                                         prefix
731                                         (int-to-string x)))
732                           numbers)))
733     (cond ((functionp n-method)
734            (funcall n-method (cons arc numbers)))
735           (p-method
736            (let ((p-prog (car p-method))
737                  (p-prog-arg (cdr p-method)))
738              (elmo-archive-exec-msgs-subr1
739               p-prog (append p-prog-arg (list arc)) numbers)))
740           (n-method
741            (let ((n-prog (car n-method))
742                  (n-prog-arg (cdr n-method)))
743              (elmo-archive-exec-msgs-subr2
744               n-prog (append n-prog-arg (list arc)) numbers (length arc))))
745           (t
746            (ding)
747            (error "WARNING: not delete: %s (method undefined)" type)))))
748
749 (defun elmo-archive-exec-msgs-subr1 (prog args msgs)
750   (let ((buf (get-buffer-create " *ELMO ARCHIVE exec*")))
751     (set-buffer buf)
752     (insert (mapconcat 'concat msgs "\n")) ;string
753     (unwind-protect
754         (= 0
755            (apply 'call-process-region (point-min) (point-max)
756                   prog nil nil nil args))
757       (kill-buffer buf))))
758
759 (defun elmo-archive-exec-msgs-subr2 (prog args msgs arc-length)
760   (let ((max-len (- elmo-archive-cmdstr-max-length arc-length))
761         (n (length msgs))
762         rest i sum)
763     (setq rest msgs) ;string
764     (setq i 1)
765     (setq sum 0)
766     (catch 'done
767       (while (and rest (<= i n))
768         (mapcar '(lambda (x)
769                    (let* ((len (length x))
770                           (files (member x (reverse rest))))
771                      ;; total(previous) + current + white space
772                      (if (<= max-len (+ sum len 1))
773                          (progn
774                            (unless
775                                (elmo-archive-call-process
776                                 prog (append args files))
777                              (throw 'done nil))
778                            (setq sum 0) ;; reset
779                            (setq rest (nthcdr i rest)))
780                        (setq sum (+ sum len 1)))
781                      (setq i (1+ i)))) msgs))
782       (throw 'done
783              (or (not rest)
784                  (elmo-archive-call-process prog (append args rest))))
785       )))
786
787 (defsubst elmo-archive-article-exists-p (arc msg type)
788   (if (not elmo-archive-check-existance-strict)
789       t ; nop
790     (save-excursion ; added 980915
791       (let* ((method (elmo-archive-get-method type 'ls))
792              (args (list arc msg))
793              (buf (get-buffer-create " *ELMO ARCHIVE query*"))
794              (error-msg "\\(no file\\|0 files\\)")
795              ret-val)
796         (set-buffer buf)
797         (erase-buffer)
798         (elmo-archive-call-method method args t)
799         ;; pointer: point-max
800         (setq ret-val (not (re-search-backward error-msg nil t)))
801         (kill-buffer buf)
802         ret-val))))
803
804 (defun elmo-archive-tgz-common-func (args exec-type &optional copy)
805   (let* ((arc (car args))
806          (tmp-msgs (cdr args))
807          (decompress (elmo-archive-get-method 'tgz 'decompress))
808          (compress (elmo-archive-get-method 'tgz 'compress))
809          (exec (elmo-archive-get-method 'tgz exec-type))
810          (suffix (elmo-archive-get-suffix 'tgz))
811          (tar-suffix (elmo-archive-get-suffix 'tar))
812          arc-tar ret-val
813          )
814     (when (null (and decompress compress exec))
815       (ding)
816       (error "WARNING: special method undefined: %s of %s"
817              (or (if (null decompress) 'decompress)
818                  (if (null compress) 'compress)
819                  (if (null exec) exec-type))
820              'tgz))
821     (unless tar-suffix
822       (ding)
823       (error "WARNING: `tar' suffix undefined"))
824     (if (string-match (concat (regexp-quote suffix) "$") arc)
825         (setq arc-tar
826               (concat (substring arc 0 (match-beginning 0)) tar-suffix))
827       (error "%s: not match suffix [%s]" arc suffix))
828     (and
829      ;; decompress
830      (elmo-archive-call-process
831       (car decompress) (append (cdr decompress) (list arc)))
832      ;; append (or delete)
833      (elmo-archive-exec-msgs-subr2
834       (car exec) (append (cdr exec) (list arc-tar)) tmp-msgs (length arc-tar))
835      ;; compress
836      (setq ret-val
837            (elmo-archive-call-process
838             (car compress) (append (cdr compress) (list arc-tar)))))
839     ;; delete tmporary messages
840     (if (and (not copy)
841              (eq exec-type 'append))
842         (while tmp-msgs
843           (if (file-exists-p (car tmp-msgs))
844               (delete-file (car tmp-msgs)))
845           (setq tmp-msgs (cdr tmp-msgs))))
846     ret-val))
847
848 (defun elmo-archive-tgz-cp-func (args &optional output)
849   (elmo-archive-tgz-common-func args 'append t))
850
851 (defun elmo-archive-tgz-mv-func (args &optional output)
852   (elmo-archive-tgz-common-func args 'append))
853
854 (defun elmo-archive-tgz-rm-func (args &optional output)
855   (elmo-archive-tgz-common-func args 'delete))
856
857 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
858 ;;; MessageDB functions (from elmo-localdir.el)
859
860 (defsubst elmo-archive-msgdb-create-entity-subr (number)
861   (let (header-end)
862     (elmo-set-buffer-multibyte default-enable-multibyte-characters)
863     (goto-char (point-min))
864     (if (re-search-forward "\\(^--.*$\\)\\|\\(\n\n\\)" nil t)
865         (setq header-end (point))
866       (setq header-end (point-max)))
867     (narrow-to-region (point-min) header-end)
868     (elmo-msgdb-create-overview-from-buffer number)))
869
870 ;; verrrry slow!!
871 (defsubst elmo-archive-msgdb-create-entity (method archive number type &optional prefix)
872   (let* ((msg (elmo-concat-path prefix (int-to-string number)))
873          (arg-list (list archive msg)))
874     (when (elmo-archive-article-exists-p archive msg type)
875       ;; insert article.
876       (as-binary-process
877        (elmo-archive-call-method method arg-list t))
878       (elmo-archive-msgdb-create-entity-subr number))))
879
880 (luna-define-method elmo-folder-msgdb-create ((folder elmo-archive-folder)
881                                               numbers new-mark
882                                               already-mark seen-mark
883                                               important-mark seen-list)
884   (when numbers
885     (save-excursion ;; 981005
886       (if (and elmo-archive-use-izip-agent
887                (elmo-archive-get-method
888                 (elmo-archive-folder-archive-type-internal folder)
889                 'cat-headers))
890           (elmo-archive-msgdb-create-as-numlist-subr2
891            folder numbers new-mark already-mark seen-mark important-mark
892            seen-list)
893         (elmo-archive-msgdb-create-as-numlist-subr1
894          folder numbers new-mark already-mark seen-mark important-mark
895          seen-list)))))
896
897 (defun elmo-archive-msgdb-create-as-numlist-subr1 (folder 
898                                                    numlist new-mark
899                                                    already-mark seen-mark
900                                                    important-mark
901                                                    seen-list)
902   (let* ((type (elmo-archive-folder-archive-type-internal folder))
903          (file (elmo-archive-get-archive-name folder))
904          (method (elmo-archive-get-method type 'cat))
905          overview number-alist mark-alist entity
906          i percent num message-id seen gmark)
907     (with-temp-buffer
908       (setq num (length numlist))
909       (setq i 0)
910       (message "Creating msgdb...")
911       (while numlist
912         (erase-buffer)
913         (setq entity
914               (elmo-archive-msgdb-create-entity
915                method file (car numlist) type
916                (elmo-archive-folder-archive-prefix-internal folder)))
917         (when entity
918           (setq overview
919                 (elmo-msgdb-append-element
920                  overview entity))
921           (setq number-alist
922                 (elmo-msgdb-number-add
923                  number-alist
924                  (elmo-msgdb-overview-entity-get-number entity)
925                  (car entity)))
926           (setq message-id (car entity))
927           (setq seen (member message-id seen-list))
928           (if (setq gmark
929                     (or (elmo-msgdb-global-mark-get message-id)
930                         (if (elmo-file-cache-status
931                              (elmo-file-cache-get message-id))
932                             (if seen
933                                 nil
934                               already-mark)
935                           (if seen
936                               seen-mark
937                             new-mark))))
938               (setq mark-alist
939                     (elmo-msgdb-mark-append
940                      mark-alist
941                      (elmo-msgdb-overview-entity-get-number entity)
942                      gmark))))
943         (when (> num elmo-display-progress-threshold)
944           (setq i (1+ i))
945           (setq percent (/ (* i 100) num))
946           (elmo-display-progress
947            'elmo-archive-msgdb-create-as-numlist-subr1 "Creating msgdb..."
948            percent))
949         (setq numlist (cdr numlist)))
950       (message "Creating msgdb...done")
951       (list overview number-alist mark-alist))))
952
953 ;;; info-zip agent
954 (defun elmo-archive-msgdb-create-as-numlist-subr2 (folder
955                                                    numlist new-mark
956                                                    already-mark seen-mark
957                                                    important-mark
958                                                    seen-list)
959   (let* ((delim1 elmo-mmdf-delimiter)           ;; MMDF
960          (delim2 elmo-unixmail-delimiter)       ;; UNIX Mail
961          (type (elmo-archive-folder-archive-type-internal folder))
962          (prefix (elmo-archive-folder-archive-prefix-internal folder))
963          (method (elmo-archive-get-method type 'cat-headers))
964          (prog (car method))
965          (args (cdr method))
966          (arc (elmo-archive-get-archive-name folder))
967          n i percent num result overview number-alist mark-alist
968          msgs case-fold-search)
969     (with-temp-buffer
970       (setq num (length numlist))
971       (setq i 0)
972       (message "Creating msgdb...")
973       (while numlist
974         (setq n (min (1- elmo-archive-fetch-headers-volume)
975                      (1- (length numlist))))
976         (setq msgs (reverse (memq (nth n numlist) (reverse numlist))))
977         (setq numlist (nthcdr (1+ n) numlist))
978         (erase-buffer)
979         (insert
980          (mapconcat
981           'concat
982           (mapcar '(lambda (x) (elmo-concat-path prefix (int-to-string x))) msgs)
983           "\n"))
984         (message "Fetching headers...")
985         (as-binary-process (apply 'call-process-region
986                                   (point-min) (point-max)
987                                   prog t t nil (append args (list arc))))
988         (goto-char (point-min))
989         (cond
990          ((looking-at delim1)   ;; MMDF
991           (setq result (elmo-archive-parse-mmdf msgs
992                                                 new-mark
993                                                 already-mark seen-mark
994                                                 seen-list))
995           (setq overview (append overview (nth 0 result)))
996           (setq number-alist (append number-alist (nth 1 result)))
997           (setq mark-alist (append mark-alist (nth 2 result))))
998 ;;;    ((looking-at delim2)     ;; UNIX MAIL
999 ;;;     (setq result (elmo-archive-parse-unixmail msgs))
1000 ;;;     (setq overview (append overview (nth 0 result)))
1001 ;;;     (setq number-alist (append number-alist (nth 1 result)))
1002 ;;;     (setq mark-alist (append mark-alist (nth 2 result))))
1003          (t                     ;; unknown format
1004           (error "Unknown format!")))
1005         (when (> num elmo-display-progress-threshold)
1006           (setq i (+ n i))
1007           (setq percent (/ (* i 100) num))
1008           (elmo-display-progress
1009            'elmo-archive-msgdb-create-as-numlist-subr2 "Creating msgdb..."
1010            percent))))
1011     (list overview number-alist mark-alist)))
1012
1013 (defun elmo-archive-parse-mmdf (msgs new-mark
1014                                      already-mark
1015                                      seen-mark
1016                                      seen-list)
1017   (let ((delim elmo-mmdf-delimiter)
1018         number sp ep rest entity overview number-alist mark-alist ret-val
1019         message-id seen gmark)
1020     (goto-char (point-min))
1021     (setq rest msgs)
1022     (while (and rest (re-search-forward delim nil t)
1023                 (not (eobp)))
1024       (setq number (car rest))
1025       (setq sp (1+ (point)))
1026       (setq ep (prog2 (re-search-forward delim)
1027                    (1+ (- (point) (length delim)))))
1028       (if (>= sp ep)                    ; no article!
1029           ()                            ; nop
1030         (save-excursion
1031           (narrow-to-region sp ep)
1032           (setq entity (elmo-archive-msgdb-create-entity-subr number))
1033           (setq overview
1034                 (elmo-msgdb-append-element
1035                  overview entity))
1036           (setq number-alist
1037                 (elmo-msgdb-number-add
1038                  number-alist
1039                  (elmo-msgdb-overview-entity-get-number entity)
1040                  (car entity)))
1041           (setq message-id (car entity))
1042           (setq seen (member message-id seen-list))
1043           (if (setq gmark
1044                     (or (elmo-msgdb-global-mark-get message-id)
1045                         (if (elmo-file-cache-status
1046                              (elmo-file-cache-get message-id))
1047                             (if seen
1048                                 nil
1049                               already-mark)
1050                           (if seen
1051                               seen-mark
1052                             new-mark))))
1053               (setq mark-alist
1054                     (elmo-msgdb-mark-append
1055                      mark-alist
1056                      (elmo-msgdb-overview-entity-get-number entity)
1057                      gmark)))
1058           (setq ret-val (append ret-val (list overview number-alist mark-alist)))
1059           (widen)))
1060       (forward-line 1)
1061       (setq rest (cdr rest)))
1062     ret-val))
1063
1064
1065 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
1066 ;;; Search functions
1067
1068 (defsubst elmo-archive-field-condition-match (folder number number-list
1069                                                      condition prefix)
1070   (save-excursion
1071     (let* ((type (elmo-archive-folder-archive-type-internal folder))
1072            (arc (elmo-archive-get-archive-name folder))
1073            (method (elmo-archive-get-method type 'cat))
1074            (args (list arc (elmo-concat-path prefix (int-to-string number)))))
1075       (elmo-set-work-buf
1076        (when (file-exists-p arc)
1077          (as-binary-process
1078           (elmo-archive-call-method method args t))
1079          (elmo-set-buffer-multibyte default-enable-multibyte-characters)
1080          (decode-mime-charset-region (point-min)(point-max) elmo-mime-charset)
1081          (elmo-buffer-field-condition-match condition number number-list))))))
1082
1083 (luna-define-method elmo-folder-search ((folder elmo-archive-folder)
1084                                         condition &optional from-msgs)
1085   (let* (;;(args (elmo-string-to-list key))
1086          ;; XXX: I don't know whether `elmo-archive-list-folder'
1087          ;;      updates match-data.
1088          ;; (msgs (or from-msgs (elmo-archive-list-folder spec)))
1089          (msgs (or from-msgs (elmo-folder-list-messages folder)))
1090          (num (length msgs))
1091          (i 0)
1092          (case-fold-search nil)
1093          number-list ret-val)
1094     (setq number-list msgs)
1095     (while msgs
1096       (if (elmo-archive-field-condition-match 
1097            folder (car msgs) number-list
1098            condition
1099            (elmo-archive-folder-archive-prefix-internal folder))
1100           (setq ret-val (cons (car msgs) ret-val)))
1101       (when (> num elmo-display-progress-threshold)
1102         (setq i (1+ i))
1103         (elmo-display-progress
1104          'elmo-archive-search "Searching..."
1105          (/ (* i 100) num)))
1106       (setq msgs (cdr msgs)))
1107     (nreverse ret-val)))
1108
1109 ;;; method(alist)
1110 (if (null elmo-archive-method-alist)
1111     (let ((mlist elmo-archive-method-list) ; from mew-highlight.el
1112           method type str)
1113       (while mlist
1114         (setq method (car mlist))
1115         (setq mlist (cdr mlist))
1116         (setq str (symbol-name method))
1117         (string-match "elmo-archive-\\([^-].*\\)-method-alist$" str)
1118         (setq type (intern-soft
1119                     (elmo-match-string 1 str)))
1120         (setq elmo-archive-method-alist
1121               (cons (cons type
1122                           (symbol-value method))
1123                     elmo-archive-method-alist)))))
1124
1125 ;;; valid suffix(list)
1126 (if (null elmo-archive-suffixes)
1127     (let ((slist elmo-archive-suffix-alist)
1128           tmp)
1129       (while slist
1130         (setq tmp (car slist))
1131         (setq elmo-archive-suffixes
1132               (nconc elmo-archive-suffixes (list (cdr tmp))))
1133         (setq slist (cdr slist)))))
1134
1135 (luna-define-method elmo-message-use-cache-p ((folder elmo-archive-folder)
1136                                               number)
1137   elmo-archive-use-cache)
1138
1139 ;;; End
1140 (run-hooks 'elmo-archive-load-hook)
1141
1142 (require 'product)
1143 (product-provide (provide 'elmo-archive) (require 'elmo-version))
1144
1145 ;;; elmo-archive.el ends here