* gnus-util.el (gnus-truncate-string): Abolished.
[elisp/gnus.git-] / lisp / nnspool.el
1 ;;; nnspool.el --- spool access for GNU Emacs
2
3 ;; Copyright (C) 1988, 1989, 1990, 1993, 1994, 1995, 1996, 1997, 1998,
4 ;;      2000 Free Software Foundation, Inc.
5
6 ;; Author: Masanobu UMEDA <umerin@flab.flab.fujitsu.junet>
7 ;;      Lars Magne Ingebrigtsen <larsi@gnus.org>
8 ;; Keywords: news
9
10 ;; This file is part of GNU Emacs.
11
12 ;; GNU Emacs is free software; you can redistribute it and/or modify
13 ;; it under the terms of the GNU General Public License as published by
14 ;; the Free Software Foundation; either version 2, or (at your option)
15 ;; any later version.
16
17 ;; GNU Emacs is distributed in the hope that it will be useful,
18 ;; but WITHOUT ANY WARRANTY; without even the implied warranty of
19 ;; MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
20 ;; GNU General Public License for more details.
21
22 ;; You should have received a copy of the GNU General Public License
23 ;; along with GNU Emacs; see the file COPYING.  If not, write to the
24 ;; Free Software Foundation, Inc., 59 Temple Place - Suite 330,
25 ;; Boston, MA 02111-1307, USA.
26
27 ;;; Commentary:
28
29 ;;; Code:
30
31 (eval-when-compile (require 'cl))
32 (eval-when-compile (require 'gnus-clfns))
33
34 (require 'nnheader)
35 (require 'nntp)
36 (require 'nnoo)
37
38 (nnoo-declare nnspool)
39
40 (defvoo nnspool-inews-program news-inews-program
41   "Program to post news.
42 This is most commonly `inews' or `injnews'.")
43
44 (defvoo nnspool-inews-switches '("-h" "-S")
45   "Switches for nnspool-request-post to pass to `inews' for posting news.
46 If you are using Cnews, you probably should set this variable to nil.")
47
48 (defvoo nnspool-spool-directory (file-name-as-directory news-path)
49   "Local news spool directory.")
50
51 (defvoo nnspool-nov-directory (concat nnspool-spool-directory "over.view/")
52   "Local news nov directory.")
53
54 (defvoo nnspool-lib-dir
55     (if (file-exists-p "/usr/lib/news/active")
56         "/usr/lib/news/"
57       "/var/lib/news/")
58   "Where the local news library files are stored.")
59
60 (defvoo nnspool-active-file (concat nnspool-lib-dir "active")
61   "Local news active file.")
62
63 (defvoo nnspool-newsgroups-file (concat nnspool-lib-dir "newsgroups")
64   "Local news newsgroups file.")
65
66 (defvoo nnspool-distributions-file (concat nnspool-lib-dir "distribs.pat")
67   "Local news distributions file.")
68
69 (defvoo nnspool-history-file (concat nnspool-lib-dir "history")
70   "Local news history file.")
71
72 (defvoo nnspool-active-times-file (concat nnspool-lib-dir "active.times")
73   "Local news active date file.")
74
75 (defvoo nnspool-large-newsgroup 50
76   "The number of the articles which indicates a large newsgroup.
77 If the number of the articles is greater than the value, verbose
78 messages will be shown to indicate the current status.")
79
80 (defvoo nnspool-nov-is-evil nil
81   "Non-nil means that nnspool will never return NOV lines instead of headers.")
82
83 (defconst nnspool-sift-nov-with-sed nil
84   "If non-nil, use sed to get the relevant portion from the overview file.
85 If nil, nnspool will load the entire file into a buffer and process it
86 there.")
87
88 (defvoo nnspool-rejected-article-hook nil
89   "*A hook that will be run when an article has been rejected by the server.")
90
91 (defvoo nnspool-file-coding-system nnheader-file-coding-system
92   "Coding system for nnspool.")
93
94 \f
95
96 (defconst nnspool-version "nnspool 2.0"
97   "Version numbers of this version of NNSPOOL.")
98
99 (defvoo nnspool-current-directory nil
100   "Current news group directory.")
101
102 (defvoo nnspool-current-group nil)
103 (defvoo nnspool-status-string "")
104
105 \f
106 ;;; Interface functions.
107
108 (nnoo-define-basics nnspool)
109
110 (deffoo nnspool-retrieve-headers (articles &optional group server fetch-old)
111   "Retrieve the headers of ARTICLES."
112   (save-excursion
113     (set-buffer nntp-server-buffer)
114     (erase-buffer)
115     (when (nnspool-possibly-change-directory group)
116       (let* ((number (length articles))
117              (count 0)
118              (default-directory nnspool-current-directory)
119              (do-message (and (numberp nnspool-large-newsgroup)
120                               (> number nnspool-large-newsgroup)))
121              (nnheader-file-coding-system nnspool-file-coding-system)
122              file beg article ag)
123         (if (and (numberp (car articles))
124                  (nnspool-retrieve-headers-with-nov articles fetch-old))
125             ;; We successfully retrieved the NOV headers.
126             'nov
127           ;; No NOV headers here, so we do it the hard way.
128           (while (setq article (pop articles))
129             (if (stringp article)
130                 ;; This is a Message-ID.
131                 (setq ag (nnspool-find-id article)
132                       file (and ag (nnspool-article-pathname
133                                     (car ag) (cdr ag)))
134                       article (cdr ag))
135               ;; This is an article in the current group.
136               (setq file (int-to-string article)))
137             ;; Insert the head of the article.
138             (when (and file
139                        (file-exists-p file))
140               (insert "221 ")
141               (princ article (current-buffer))
142               (insert " Article retrieved.\n")
143               (setq beg (point))
144               (inline (nnheader-insert-head file))
145               (goto-char beg)
146               (if (search-forward "\n\n" nil t)
147                   (progn (forward-char -1)
148                          (insert ".\n"))
149                 (goto-char (point-max))
150                 (if (bolp)
151                     (insert ".\n")
152                   (insert "\n.\n")))
153               (delete-region (point) (point-max)))
154
155             (and do-message
156                  (zerop (% (incf count) 20))
157                  (nnheader-message 5 "nnspool: Receiving headers... %d%%"
158                                    (/ (* count 100) number))))
159
160           (when do-message
161             (nnheader-message 5 "nnspool: Receiving headers...done"))
162
163           ;; Fold continuation lines.
164           (nnheader-fold-continuation-lines)
165           'headers)))))
166
167 (deffoo nnspool-open-server (server &optional defs)
168   (nnoo-change-server 'nnspool server defs)
169   (cond
170    ((not (file-exists-p nnspool-spool-directory))
171     (nnspool-close-server)
172     (nnheader-report 'nnspool "Spool directory doesn't exist: %s"
173                      nnspool-spool-directory))
174    ((not (file-directory-p
175           (directory-file-name
176            (file-truename nnspool-spool-directory))))
177     (nnspool-close-server)
178     (nnheader-report 'nnspool "Not a directory: %s" nnspool-spool-directory))
179    ((not (file-exists-p nnspool-active-file))
180     (nnheader-report 'nnspool "The active file doesn't exist: %s"
181                      nnspool-active-file))
182    (t
183     (nnheader-report 'nnspool "Opened server %s using directory %s"
184                      server nnspool-spool-directory)
185     t)))
186
187 (deffoo nnspool-request-article (id &optional group server buffer)
188   "Select article by message ID (or number)."
189   (nnspool-possibly-change-directory group)
190   (let ((nntp-server-buffer (or buffer nntp-server-buffer))
191         file ag)
192     (if (stringp id)
193         ;; This is a Message-ID.
194         (when (setq ag (nnspool-find-id id))
195           (setq file (nnspool-article-pathname (car ag) (cdr ag))))
196       (setq file (nnspool-article-pathname nnspool-current-group id)))
197     (and file
198          (file-exists-p file)
199          (not (file-directory-p file))
200          (save-excursion (nnspool-find-file file))
201          ;; We return the article number and group name.
202          (if (numberp id)
203              (cons nnspool-current-group id)
204            ag))))
205
206 (deffoo nnspool-request-body (id &optional group server)
207   "Select article body by message ID (or number)."
208   (nnspool-possibly-change-directory group)
209   (let ((res (nnspool-request-article id)))
210     (when res
211       (save-excursion
212         (set-buffer nntp-server-buffer)
213         (goto-char (point-min))
214         (when (search-forward "\n\n" nil t)
215           (delete-region (point-min) (point)))
216         res))))
217
218 (deffoo nnspool-request-head (id &optional group server)
219   "Select article head by message ID (or number)."
220   (nnspool-possibly-change-directory group)
221   (let ((res (nnspool-request-article id)))
222     (when res
223       (save-excursion
224         (set-buffer nntp-server-buffer)
225         (goto-char (point-min))
226         (when (search-forward "\n\n" nil t)
227           (delete-region (1- (point)) (point-max)))
228         (nnheader-fold-continuation-lines)))
229     res))
230
231 (deffoo nnspool-request-group (group &optional server dont-check)
232   "Select news GROUP."
233   (let ((pathname (nnspool-article-pathname group))
234         dir)
235     (if (not (file-directory-p pathname))
236         (nnheader-report
237          'nnspool "Invalid group name (no such directory): %s" group)
238       (setq nnspool-current-directory pathname)
239       (nnheader-report 'nnspool "Selected group %s" group)
240       (if dont-check
241           (progn
242             (nnheader-report 'nnspool "Selected group %s" group)
243             t)
244         ;; Yes, completely empty spool directories *are* possible.
245         ;; Fix by Sudish Joseph <joseph@cis.ohio-state.edu>
246         (when (setq dir (directory-files pathname nil "^[0-9]+$" t))
247           (setq dir
248                 (sort (mapcar (lambda (name) (string-to-int name)) dir) '<)))
249         (if dir
250             (nnheader-insert
251              "211 %d %d %d %s\n" (length dir) (car dir)
252              (progn (while (cdr dir) (setq dir (cdr dir))) (car dir))
253              group)
254           (nnheader-report 'nnspool "Empty group %s" group)
255           (nnheader-insert "211 0 0 0 %s\n" group))))))
256
257 (deffoo nnspool-request-type (group &optional article)
258   'news)
259
260 (deffoo nnspool-close-group (group &optional server)
261   t)
262
263 (deffoo nnspool-request-list (&optional server)
264   "List active newsgroups."
265   (save-excursion
266     (or (nnspool-find-file nnspool-active-file)
267         (nnheader-report 'nnspool (nnheader-file-error nnspool-active-file)))))
268
269 (deffoo nnspool-request-list-newsgroups (&optional server)
270   "List newsgroups (defined in NNTP2)."
271   (save-excursion
272     (or (nnspool-find-file nnspool-newsgroups-file)
273         (nnheader-report 'nnspool (nnheader-file-error
274                                    nnspool-newsgroups-file)))))
275
276 (deffoo nnspool-request-list-distributions (&optional server)
277   "List distributions (defined in NNTP2)."
278   (save-excursion
279     (or (nnspool-find-file nnspool-distributions-file)
280         (nnheader-report 'nnspool (nnheader-file-error
281                                    nnspool-distributions-file)))))
282
283 ;; Suggested by Hallvard B Furuseth <h.b.furuseth@usit.uio.no>.
284 (deffoo nnspool-request-newgroups (date &optional server)
285   "List groups created after DATE."
286   (if (nnspool-find-file nnspool-active-times-file)
287       (save-excursion
288         ;; Find the last valid line.
289         (goto-char (point-max))
290         (while (and (not (looking-at
291                           "\\([^ ]+\\) +\\([0-9]+\\)[0-9][0-9][0-9] "))
292                     (zerop (forward-line -1))))
293         (let ((seconds (time-to-seconds (date-to-time date)))
294               groups)
295           ;; Go through lines and add the latest groups to a list.
296           (while (and (looking-at "\\([^ ]+\\) +[0-9]+ ")
297                       (progn
298                         ;; We insert a .0 to make the list reader
299                         ;; interpret the number as a float.  It is far
300                         ;; too big to be stored in a lisp integer.
301                         (goto-char (1- (match-end 0)))
302                         (insert ".0")
303                         (> (progn
304                              (goto-char (match-end 1))
305                              (read (current-buffer)))
306                            seconds))
307                       (push (buffer-substring
308                              (match-beginning 1) (match-end 1))
309                             groups)
310                       (zerop (forward-line -1))))
311           (erase-buffer)
312           (while groups
313             (insert (car groups) " 0 0 y\n")
314             (setq groups (cdr groups))))
315         t)
316     nil))
317
318 (deffoo nnspool-request-post (&optional server)
319   "Post a new news in current buffer."
320   (save-excursion
321     (let* ((process-connection-type nil) ; t bugs out on Solaris
322            (inews-buffer (generate-new-buffer " *nnspool post*"))
323            (proc
324             (condition-case err
325                 (apply 'start-process "*nnspool inews*" inews-buffer
326                        nnspool-inews-program nnspool-inews-switches)
327               (error
328                (nnheader-report 'nnspool "inews error: %S" err)))))
329       (if (not proc)
330           ;; The inews program failed.
331           ()
332         (nnheader-report 'nnspool "")
333         (set-process-sentinel proc 'nnspool-inews-sentinel)
334         (process-send-region proc (point-min) (point-max))
335         ;; We slap a condition-case around this, because the process may
336         ;; have exited already...
337         (ignore-errors
338           (process-send-eof proc))
339         t))))
340
341
342 \f
343 ;;; Internal functions.
344
345 (defun nnspool-inews-sentinel (proc status)
346   (save-excursion
347     (set-buffer (process-buffer proc))
348     (goto-char (point-min))
349     (if (or (zerop (buffer-size))
350             (search-forward "spooled" nil t))
351         (kill-buffer (current-buffer))
352       ;; Make status message by folding lines.
353       (while (re-search-forward "[ \t\n]+" nil t)
354         (replace-match " " t t))
355       (nnheader-report 'nnspool "%s" (buffer-string))
356       (nnheader-message 5 "nnspool: %s" nnspool-status-string)
357       (ding)
358       (run-hooks 'nnspool-rejected-article-hook))))
359
360 (defun nnspool-retrieve-headers-with-nov (articles &optional fetch-old)
361   (if (or gnus-nov-is-evil nnspool-nov-is-evil)
362       nil
363     (let ((nov (nnheader-group-pathname
364                 nnspool-current-group nnspool-nov-directory ".overview"))
365           (arts articles)
366           (nnheader-file-coding-system nnspool-file-coding-system)
367           last)
368       (if (not (file-exists-p nov))
369           ()
370         (save-excursion
371           (set-buffer nntp-server-buffer)
372           (erase-buffer)
373           (if nnspool-sift-nov-with-sed
374               (nnspool-sift-nov-with-sed articles nov)
375             (nnheader-insert-file-contents nov)
376             (if (and fetch-old
377                      (not (numberp fetch-old)))
378                 t                       ; We want all the headers.
379               (ignore-errors
380                 ;; Delete unwanted NOV lines.
381                 (nnheader-nov-delete-outside-range
382                  (if fetch-old (max 1 (- (car articles) fetch-old))
383                    (car articles))
384                  (car (last articles)))
385                 ;; If the buffer is empty, this wasn't very successful.
386                 (unless (zerop (buffer-size))
387                   ;; We check what the last article number was.
388                   ;; The NOV file may be out of sync with the articles
389                   ;; in the group.
390                   (forward-line -1)
391                   (setq last (read (current-buffer)))
392                   (if (= last (car articles))
393                       ;; Yup, it's all there.
394                       t
395                     ;; Perhaps not.  We try to find the missing articles.
396                     (while (and arts
397                                 (<= last (car arts)))
398                       (pop arts))
399                     ;; The articles in `arts' are missing from the buffer.
400                     (while arts
401                       (nnspool-insert-nov-head (pop arts)))
402                     t))))))))))
403
404 (defun nnspool-insert-nov-head (article)
405   "Read the head of ARTICLE, convert to NOV headers, and insert."
406   (save-excursion
407     (let ((cur (current-buffer))
408           buf)
409       (setq buf (nnheader-set-temp-buffer " *nnspool head*"))
410       (when (nnheader-insert-head
411              (nnspool-article-pathname nnspool-current-group article))
412         (nnheader-insert-article-line article)
413         (let ((headers (nnheader-parse-head)))
414           (set-buffer cur)
415           (goto-char (point-max))
416           (nnheader-insert-nov headers)))
417       (kill-buffer buf))))
418
419 (defun nnspool-sift-nov-with-sed (articles file)
420   (let ((first (car articles))
421         (last (progn (while (cdr articles) (setq articles (cdr articles)))
422                      (car articles))))
423     (call-process "awk" nil t nil
424                   (format "BEGIN {firstmsg=%d; lastmsg=%d;}\n $1 >= firstmsg && $1 <= lastmsg {print;}"
425                           (1- first) (1+ last))
426                   file)))
427
428 ;; Fixed by fdc@cliwe.ping.de (Frank D. Cringle).
429 ;; Find out what group an article identified by a Message-ID is in.
430 (defun nnspool-find-id (id)
431   (save-excursion
432     (set-buffer (get-buffer-create " *nnspool work*"))
433     (erase-buffer)
434     (ignore-errors
435       (call-process "grep" nil t nil (regexp-quote id) nnspool-history-file))
436     (goto-char (point-min))
437     (prog1
438         (when (looking-at "<[^>]+>[ \t]+[-0-9~]+[ \t]+\\([^ /\t\n]+\\)/\\([0-9]+\\)[ \t\n]")
439           (cons (match-string 1) (string-to-int (match-string 2))))
440       (kill-buffer (current-buffer)))))
441
442 (defun nnspool-find-file (file)
443   "Insert FILE in server buffer safely."
444   (set-buffer nntp-server-buffer)
445   (erase-buffer)
446   (condition-case ()
447       (let ((nnheader-file-coding-system nnspool-file-coding-system))
448         (nnheader-insert-file-contents file)
449         t)
450     (file-error nil)))
451
452 (defun nnspool-possibly-change-directory (group)
453   (if (not group)
454       t
455     (let ((pathname (nnspool-article-pathname group)))
456       (if (file-directory-p pathname)
457           (setq nnspool-current-directory pathname
458                 nnspool-current-group group)
459         (nnheader-report 'nnspool "No such newsgroup: %s" group)))))
460
461 (defun nnspool-article-pathname (group &optional article)
462   "Find the path for GROUP."
463   (nnheader-group-pathname group nnspool-spool-directory article))
464
465 (provide 'nnspool)
466
467 ;;; nnspool.el ends here