Synch with Gnus.
[elisp/gnus.git-] / lisp / nnspool.el
1 ;;; nnspool.el --- spool access for GNU Emacs
2 ;; Copyright (C) 1988,89,90,93,94,95,96,97,98 Free Software Foundation, Inc.
3
4 ;; Author: Masanobu UMEDA <umerin@flab.flab.fujitsu.junet>
5 ;;      Lars Magne Ingebrigtsen <larsi@gnus.org>
6 ;; Keywords: news
7
8 ;; This file is part of GNU Emacs.
9
10 ;; GNU Emacs is free software; you can redistribute it and/or modify
11 ;; it under the terms of the GNU General Public License as published by
12 ;; the Free Software Foundation; either version 2, or (at your option)
13 ;; any later version.
14
15 ;; GNU Emacs is distributed in the hope that it will be useful,
16 ;; but WITHOUT ANY WARRANTY; without even the implied warranty of
17 ;; MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18 ;; GNU General Public License for more details.
19
20 ;; You should have received a copy of the GNU General Public License
21 ;; along with GNU Emacs; see the file COPYING.  If not, write to the
22 ;; Free Software Foundation, Inc., 59 Temple Place - Suite 330,
23 ;; Boston, MA 02111-1307, USA.
24
25 ;;; Commentary:
26
27 ;;; Code:
28
29 (eval-when-compile (require 'cl))
30 (eval-when-compile (require 'gnus-clfns))
31
32 (require 'nnheader)
33 (require 'nntp)
34 (require 'nnoo)
35
36 (nnoo-declare nnspool)
37
38 (defvoo nnspool-inews-program news-inews-program
39   "Program to post news.
40 This is most commonly `inews' or `injnews'.")
41
42 (defvoo nnspool-inews-switches '("-h" "-S")
43   "Switches for nnspool-request-post to pass to `inews' for posting news.
44 If you are using Cnews, you probably should set this variable to nil.")
45
46 (defvoo nnspool-spool-directory (file-name-as-directory news-path)
47   "Local news spool directory.")
48
49 (defvoo nnspool-nov-directory (concat nnspool-spool-directory "over.view/")
50   "Local news nov directory.")
51
52 (defvoo nnspool-lib-dir 
53     (if (file-exists-p "/usr/lib/news/active")
54         "/usr/lib/news/"
55       "/var/lib/news/")
56   "Where the local news library files are stored.")
57
58 (defvoo nnspool-active-file (concat nnspool-lib-dir "active")
59   "Local news active file.")
60
61 (defvoo nnspool-newsgroups-file (concat nnspool-lib-dir "newsgroups")
62   "Local news newsgroups file.")
63
64 (defvoo nnspool-distributions-file (concat nnspool-lib-dir "distribs.pat")
65   "Local news distributions file.")
66
67 (defvoo nnspool-history-file (concat nnspool-lib-dir "history")
68   "Local news history file.")
69
70 (defvoo nnspool-active-times-file (concat nnspool-lib-dir "active.times")
71   "Local news active date file.")
72
73 (defvoo nnspool-large-newsgroup 50
74   "The number of the articles which indicates a large newsgroup.
75 If the number of the articles is greater than the value, verbose
76 messages will be shown to indicate the current status.")
77
78 (defvoo nnspool-nov-is-evil nil
79   "Non-nil means that nnspool will never return NOV lines instead of headers.")
80
81 (defconst nnspool-sift-nov-with-sed nil
82   "If non-nil, use sed to get the relevant portion from the overview file.
83 If nil, nnspool will load the entire file into a buffer and process it
84 there.")
85
86 (defvoo nnspool-rejected-article-hook nil
87   "*A hook that will be run when an article has been rejected by the server.")
88
89 (defvoo nnspool-file-coding-system nnheader-file-coding-system
90   "Coding system for nnspool.")
91
92 \f
93
94 (defconst nnspool-version "nnspool 2.0"
95   "Version numbers of this version of NNSPOOL.")
96
97 (defvoo nnspool-current-directory nil
98   "Current news group directory.")
99
100 (defvoo nnspool-current-group nil)
101 (defvoo nnspool-status-string "")
102
103 \f
104 ;;; Interface functions.
105
106 (nnoo-define-basics nnspool)
107
108 (deffoo nnspool-retrieve-headers (articles &optional group server fetch-old)
109   "Retrieve the headers of ARTICLES."
110   (save-excursion
111     (set-buffer nntp-server-buffer)
112     (erase-buffer)
113     (when (nnspool-possibly-change-directory group)
114       (let* ((number (length articles))
115              (count 0)
116              (default-directory nnspool-current-directory)
117              (do-message (and (numberp nnspool-large-newsgroup)
118                               (> number nnspool-large-newsgroup)))
119              (nnheader-file-coding-system nnspool-file-coding-system)
120              file beg article ag)
121         (if (and (numberp (car articles))
122                  (nnspool-retrieve-headers-with-nov articles fetch-old))
123             ;; We successfully retrieved the NOV headers.
124             'nov
125           ;; No NOV headers here, so we do it the hard way.
126           (while (setq article (pop articles))
127             (if (stringp article)
128                 ;; This is a Message-ID.
129                 (setq ag (nnspool-find-id article)
130                       file (and ag (nnspool-article-pathname
131                                     (car ag) (cdr ag)))
132                       article (cdr ag))
133               ;; This is an article in the current group.
134               (setq file (int-to-string article)))
135             ;; Insert the head of the article.
136             (when (and file
137                        (file-exists-p file))
138               (insert "221 ")
139               (princ article (current-buffer))
140               (insert " Article retrieved.\n")
141               (setq beg (point))
142               (inline (nnheader-insert-head file))
143               (goto-char beg)
144               (if (search-forward "\n\n" nil t)
145                   (progn (forward-char -1)
146                          (insert ".\n"))
147                 (goto-char (point-max))
148                 (if (bolp)
149                     (insert ".\n")
150                   (insert "\n.\n")))
151               (delete-region (point) (point-max)))
152
153             (and do-message
154                  (zerop (% (incf count) 20))
155                  (nnheader-message 5 "nnspool: Receiving headers... %d%%"
156                                    (/ (* count 100) number))))
157
158           (when do-message
159             (nnheader-message 5 "nnspool: Receiving headers...done"))
160
161           ;; Fold continuation lines.
162           (nnheader-fold-continuation-lines)
163           'headers)))))
164
165 (deffoo nnspool-open-server (server &optional defs)
166   (nnoo-change-server 'nnspool server defs)
167   (cond
168    ((not (file-exists-p nnspool-spool-directory))
169     (nnspool-close-server)
170     (nnheader-report 'nnspool "Spool directory doesn't exist: %s"
171                      nnspool-spool-directory))
172    ((not (file-directory-p
173           (directory-file-name
174            (file-truename nnspool-spool-directory))))
175     (nnspool-close-server)
176     (nnheader-report 'nnspool "Not a directory: %s" nnspool-spool-directory))
177    ((not (file-exists-p nnspool-active-file))
178     (nnheader-report 'nnspool "The active file doesn't exist: %s"
179                      nnspool-active-file))
180    (t
181     (nnheader-report 'nnspool "Opened server %s using directory %s"
182                      server nnspool-spool-directory)
183     t)))
184
185 (deffoo nnspool-request-article (id &optional group server buffer)
186   "Select article by message ID (or number)."
187   (nnspool-possibly-change-directory group)
188   (let ((nntp-server-buffer (or buffer nntp-server-buffer))
189         file ag)
190     (if (stringp id)
191         ;; This is a Message-ID.
192         (when (setq ag (nnspool-find-id id))
193           (setq file (nnspool-article-pathname (car ag) (cdr ag))))
194       (setq file (nnspool-article-pathname nnspool-current-group id)))
195     (and file
196          (file-exists-p file)
197          (not (file-directory-p file))
198          (save-excursion (nnspool-find-file file))
199          ;; We return the article number and group name.
200          (if (numberp id)
201              (cons nnspool-current-group id)
202            ag))))
203
204 (deffoo nnspool-request-body (id &optional group server)
205   "Select article body by message ID (or number)."
206   (nnspool-possibly-change-directory group)
207   (let ((res (nnspool-request-article id)))
208     (when res
209       (save-excursion
210         (set-buffer nntp-server-buffer)
211         (goto-char (point-min))
212         (when (search-forward "\n\n" nil t)
213           (delete-region (point-min) (point)))
214         res))))
215
216 (deffoo nnspool-request-head (id &optional group server)
217   "Select article head by message ID (or number)."
218   (nnspool-possibly-change-directory group)
219   (let ((res (nnspool-request-article id)))
220     (when res
221       (save-excursion
222         (set-buffer nntp-server-buffer)
223         (goto-char (point-min))
224         (when (search-forward "\n\n" nil t)
225           (delete-region (1- (point)) (point-max)))
226         (nnheader-fold-continuation-lines)))
227     res))
228
229 (deffoo nnspool-request-group (group &optional server dont-check)
230   "Select news GROUP."
231   (let ((pathname (nnspool-article-pathname group))
232         dir)
233     (if (not (file-directory-p pathname))
234         (nnheader-report
235          'nnspool "Invalid group name (no such directory): %s" group)
236       (setq nnspool-current-directory pathname)
237       (nnheader-report 'nnspool "Selected group %s" group)
238       (if dont-check
239           (progn
240             (nnheader-report 'nnspool "Selected group %s" group)
241             t)
242         ;; Yes, completely empty spool directories *are* possible.
243         ;; Fix by Sudish Joseph <joseph@cis.ohio-state.edu>
244         (when (setq dir (directory-files pathname nil "^[0-9]+$" t))
245           (setq dir
246                 (sort (mapcar (lambda (name) (string-to-int name)) dir) '<)))
247         (if dir
248             (nnheader-insert
249              "211 %d %d %d %s\n" (length dir) (car dir)
250              (progn (while (cdr dir) (setq dir (cdr dir))) (car dir))
251              group)
252           (nnheader-report 'nnspool "Empty group %s" group)
253           (nnheader-insert "211 0 0 0 %s\n" group))))))
254
255 (deffoo nnspool-request-type (group &optional article)
256   'news)
257
258 (deffoo nnspool-close-group (group &optional server)
259   t)
260
261 (deffoo nnspool-request-list (&optional server)
262   "List active newsgroups."
263   (save-excursion
264     (or (nnspool-find-file nnspool-active-file)
265         (nnheader-report 'nnspool (nnheader-file-error nnspool-active-file)))))
266
267 (deffoo nnspool-request-list-newsgroups (&optional server)
268   "List newsgroups (defined in NNTP2)."
269   (save-excursion
270     (or (nnspool-find-file nnspool-newsgroups-file)
271         (nnheader-report 'nnspool (nnheader-file-error
272                                    nnspool-newsgroups-file)))))
273
274 (deffoo nnspool-request-list-distributions (&optional server)
275   "List distributions (defined in NNTP2)."
276   (save-excursion
277     (or (nnspool-find-file nnspool-distributions-file)
278         (nnheader-report 'nnspool (nnheader-file-error
279                                    nnspool-distributions-file)))))
280
281 ;; Suggested by Hallvard B Furuseth <h.b.furuseth@usit.uio.no>.
282 (deffoo nnspool-request-newgroups (date &optional server)
283   "List groups created after DATE."
284   (if (nnspool-find-file nnspool-active-times-file)
285       (save-excursion
286         ;; Find the last valid line.
287         (goto-char (point-max))
288         (while (and (not (looking-at
289                           "\\([^ ]+\\) +\\([0-9]+\\)[0-9][0-9][0-9] "))
290                     (zerop (forward-line -1))))
291         (let ((seconds (time-to-seconds (date-to-time date)))
292               groups)
293           ;; Go through lines and add the latest groups to a list.
294           (while (and (looking-at "\\([^ ]+\\) +[0-9]+ ")
295                       (progn
296                         ;; We insert a .0 to make the list reader
297                         ;; interpret the number as a float.  It is far
298                         ;; too big to be stored in a lisp integer.
299                         (goto-char (1- (match-end 0)))
300                         (insert ".0")
301                         (> (progn
302                              (goto-char (match-end 1))
303                              (read (current-buffer)))
304                            seconds))
305                       (push (buffer-substring
306                              (match-beginning 1) (match-end 1))
307                             groups)
308                       (zerop (forward-line -1))))
309           (erase-buffer)
310           (while groups
311             (insert (car groups) " 0 0 y\n")
312             (setq groups (cdr groups))))
313         t)
314     nil))
315
316 (deffoo nnspool-request-post (&optional server)
317   "Post a new news in current buffer."
318   (save-excursion
319     (let* ((process-connection-type nil) ; t bugs out on Solaris
320            (inews-buffer (generate-new-buffer " *nnspool post*"))
321            (proc
322             (condition-case err
323                 (apply 'start-process "*nnspool inews*" inews-buffer
324                        nnspool-inews-program nnspool-inews-switches)
325               (error
326                (nnheader-report 'nnspool "inews error: %S" err)))))
327       (if (not proc)
328           ;; The inews program failed.
329           ()
330         (nnheader-report 'nnspool "")
331         (set-process-sentinel proc 'nnspool-inews-sentinel)
332         (process-send-region proc (point-min) (point-max))
333         ;; We slap a condition-case around this, because the process may
334         ;; have exited already...
335         (ignore-errors
336           (process-send-eof proc))
337         t))))
338
339
340 \f
341 ;;; Internal functions.
342
343 (defun nnspool-inews-sentinel (proc status)
344   (save-excursion
345     (set-buffer (process-buffer proc))
346     (goto-char (point-min))
347     (if (or (zerop (buffer-size))
348             (search-forward "spooled" nil t))
349         (kill-buffer (current-buffer))
350       ;; Make status message by folding lines.
351       (while (re-search-forward "[ \t\n]+" nil t)
352         (replace-match " " t t))
353       (nnheader-report 'nnspool "%s" (buffer-string))
354       (nnheader-message 5 "nnspool: %s" nnspool-status-string)
355       (ding)
356       (run-hooks 'nnspool-rejected-article-hook))))
357
358 (defun nnspool-retrieve-headers-with-nov (articles &optional fetch-old)
359   (if (or gnus-nov-is-evil nnspool-nov-is-evil)
360       nil
361     (let ((nov (nnheader-group-pathname
362                 nnspool-current-group nnspool-nov-directory ".overview"))
363           (arts articles)
364           (nnheader-file-coding-system nnspool-file-coding-system)
365           last)
366       (if (not (file-exists-p nov))
367           ()
368         (save-excursion
369           (set-buffer nntp-server-buffer)
370           (erase-buffer)
371           (if nnspool-sift-nov-with-sed
372               (nnspool-sift-nov-with-sed articles nov)
373             (nnheader-insert-file-contents nov)
374             (if (and fetch-old
375                      (not (numberp fetch-old)))
376                 t                       ; We want all the headers.
377               (ignore-errors
378                 ;; Delete unwanted NOV lines.
379                 (nnheader-nov-delete-outside-range
380                  (if fetch-old (max 1 (- (car articles) fetch-old))
381                    (car articles))
382                  (car (last articles)))
383                 ;; If the buffer is empty, this wasn't very successful.
384                 (unless (zerop (buffer-size))
385                   ;; We check what the last article number was.
386                   ;; The NOV file may be out of sync with the articles
387                   ;; in the group.
388                   (forward-line -1)
389                   (setq last (read (current-buffer)))
390                   (if (= last (car articles))
391                       ;; Yup, it's all there.
392                       t
393                     ;; Perhaps not.  We try to find the missing articles.
394                     (while (and arts
395                                 (<= last (car arts)))
396                       (pop arts))
397                     ;; The articles in `arts' are missing from the buffer.
398                     (while arts
399                       (nnspool-insert-nov-head (pop arts)))
400                     t))))))))))
401
402 (defun nnspool-insert-nov-head (article)
403   "Read the head of ARTICLE, convert to NOV headers, and insert."
404   (save-excursion
405     (let ((cur (current-buffer))
406           buf)
407       (setq buf (nnheader-set-temp-buffer " *nnspool head*"))
408       (when (nnheader-insert-head
409              (nnspool-article-pathname nnspool-current-group article))
410         (nnheader-insert-article-line article)
411         (let ((headers (nnheader-parse-head)))
412           (set-buffer cur)
413           (goto-char (point-max))
414           (nnheader-insert-nov headers)))
415       (kill-buffer buf))))
416
417 (defun nnspool-sift-nov-with-sed (articles file)
418   (let ((first (car articles))
419         (last (progn (while (cdr articles) (setq articles (cdr articles)))
420                      (car articles))))
421     (call-process "awk" nil t nil
422                   (format "BEGIN {firstmsg=%d; lastmsg=%d;}\n $1 >= firstmsg && $1 <= lastmsg {print;}"
423                           (1- first) (1+ last))
424                   file)))
425
426 ;; Fixed by fdc@cliwe.ping.de (Frank D. Cringle).
427 ;; Find out what group an article identified by a Message-ID is in.
428 (defun nnspool-find-id (id)
429   (save-excursion
430     (set-buffer (get-buffer-create " *nnspool work*"))
431     (erase-buffer)
432     (ignore-errors
433       (call-process "grep" nil t nil (regexp-quote id) nnspool-history-file))
434     (goto-char (point-min))
435     (prog1
436         (when (looking-at "<[^>]+>[ \t]+[-0-9~]+[ \t]+\\([^ /\t\n]+\\)/\\([0-9]+\\)[ \t\n]")
437           (cons (match-string 1) (string-to-int (match-string 2))))
438       (kill-buffer (current-buffer)))))
439
440 (defun nnspool-find-file (file)
441   "Insert FILE in server buffer safely."
442   (set-buffer nntp-server-buffer)
443   (erase-buffer)
444   (condition-case ()
445       (let ((nnheader-file-coding-system nnspool-file-coding-system))
446         (nnheader-insert-file-contents file)
447         t)
448     (file-error nil)))
449
450 (defun nnspool-possibly-change-directory (group)
451   (if (not group)
452       t
453     (let ((pathname (nnspool-article-pathname group)))
454       (if (file-directory-p pathname)
455           (setq nnspool-current-directory pathname
456                 nnspool-current-group group)
457         (nnheader-report 'nnspool "No such newsgroup: %s" group)))))
458
459 (defun nnspool-article-pathname (group &optional article)
460   "Find the path for GROUP."
461   (nnheader-group-pathname group nnspool-spool-directory article))
462
463 (provide 'nnspool)
464
465 ;;; nnspool.el ends here