* nnheader.el (mm-disable-multibyte): New function.
[elisp/gnus.git-] / lisp / nnheader.el
1 ;;; nnheader.el --- header access macros for Semi-gnus and its backends
2
3 ;; Copyright (C) 1987, 1988, 1989, 1990, 1993, 1994, 1995, 1996,
4 ;;        1997, 1998, 2000, 2001, 2002, 2003
5 ;;        Free Software Foundation, Inc.
6
7 ;; Author: Masanobu UMEDA <umerin@flab.flab.fujitsu.junet>
8 ;;      Lars Magne Ingebrigtsen <larsi@gnus.org>
9 ;;      MORIOKA Tomohiko <morioka@jaist.ac.jp>
10 ;;      Katsumi Yamaoka <yamaoka@jpl.org>
11 ;; Keywords: mail, news, MIME
12
13 ;; This file is part of GNU Emacs.
14
15 ;; GNU Emacs is free software; you can redistribute it and/or modify
16 ;; it under the terms of the GNU General Public License as published by
17 ;; the Free Software Foundation; either version 2, or (at your option)
18 ;; any later version.
19
20 ;; GNU Emacs is distributed in the hope that it will be useful,
21 ;; but WITHOUT ANY WARRANTY; without even the implied warranty of
22 ;; MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
23 ;; GNU General Public License for more details.
24
25 ;; You should have received a copy of the GNU General Public License
26 ;; along with GNU Emacs; see the file COPYING.  If not, write to the
27 ;; Free Software Foundation, Inc., 59 Temple Place - Suite 330,
28 ;; Boston, MA 02111-1307, USA.
29
30 ;;; Commentary:
31
32 ;;; Code:
33
34 (eval-when-compile (require 'cl))
35 (eval-when-compile (require 'static))
36
37 ;; Requiring `gnus-util' at compile time creates a circular
38 ;; dependency between nnheader.el and gnus-util.el.
39 ;;(eval-when-compile (require 'gnus-util))
40
41 (require 'mail-utils)
42 (require 'gnus-util)
43
44 ;; Reduce the required value of `recursive-load-depth-limit' for Emacs 21.
45 (require 'pces)
46 (require 'poem)
47 (require 'std11)
48
49 (require 'mime)
50 (eval-and-compile
51   (autoload 'gnus-sorted-intersection "gnus-range")
52   (autoload 'gnus-intersection "gnus-range")
53   (autoload 'gnus-sorted-complement "gnus-range")
54   (autoload 'gnus-sorted-difference "gnus-range"))
55
56 (defcustom gnus-verbose-backends 7
57   "Integer that says how verbose the Gnus backends should be.
58 The higher the number, the more messages the Gnus backends will flash
59 to say what it's doing.  At zero, the Gnus backends will be totally
60 mute; at five, they will display most important messages; and at ten,
61 they will keep on jabbering all the time."
62   :group 'gnus-start
63   :type 'integer)
64
65 (defcustom gnus-nov-is-evil nil
66   "If non-nil, Gnus backends will never output headers in the NOV format."
67   :group 'gnus-server
68   :type 'boolean)
69
70 (defvar nnheader-max-head-length 4096
71   "*Max length of the head of articles.
72
73 Value is an integer, nil, or t.  nil means read in chunks of a file
74 indefinitely until a complete head is found\; t means always read the
75 entire file immediately, disregarding `nnheader-head-chop-length'.
76
77 Integer values will in effect be rounded up to the nearest multiple of
78 `nnheader-head-chop-length'.")
79
80 (defvar nnheader-head-chop-length 2048
81   "*Length of each read operation when trying to fetch HEAD headers.")
82
83 (defvar nnheader-read-timeout
84   (if (string-match "windows-nt\\|os/2\\|emx\\|cygwin"
85                     (symbol-name system-type))
86       1.0                               ; why?
87     0.1)
88   "How long nntp should wait between checking for the end of output.
89 Shorter values mean quicker response, but are more CPU intensive.")
90
91 (defvar nnheader-file-name-translation-alist
92   (let ((case-fold-search t))
93     (cond
94      ((string-match "windows-nt\\|os/2\\|emx\\|cygwin"
95                     (symbol-name system-type))
96       (append (mapcar (lambda (c) (cons c ?_))
97                       '(?: ?* ?\" ?< ?> ??))
98               (if (string-match "windows-nt\\|cygwin"
99                                 (symbol-name system-type))
100                   nil
101                 '((?+ . ?-)))))
102      (t nil)))
103   "*Alist that says how to translate characters in file names.
104 For instance, if \":\" is invalid as a file character in file names
105 on your system, you could say something like:
106
107 \(setq nnheader-file-name-translation-alist '((?: . ?_)))")
108
109 (defvar nnheader-text-coding-system
110   (if (memq system-type '(windows-nt ms-dos ms-windows))
111       'raw-text-dos
112     'raw-text)
113   "Text-safe coding system (For removing ^M).
114 This variable is a substitute for `mm-text-coding-system'.")
115
116 (defvar nnheader-text-coding-system-for-write nil
117   "Text coding system for write.
118 This variable is a substitute for `mm-text-coding-system-for-write'.")
119
120 (defvar nnheader-auto-save-coding-system
121   (cond
122    ((not (fboundp 'find-coding-system)) nil)
123    ((find-coding-system 'emacs-mule)
124     (if (memq system-type '(windows-nt ms-dos ms-windows))
125         'emacs-mule-dos 'emacs-mule))
126    ((find-coding-system 'escape-quoted) 'escape-quoted)
127    ((find-coding-system 'no-conversion) 'no-conversion)
128    (t nil))
129   "Coding system of auto save file.")
130
131 (defvar nnheader-directory-separator-character
132   (string-to-char (substring (file-name-as-directory ".") -1))
133   "*A character used to a directory separator.")
134
135 (eval-and-compile
136   (autoload 'nnmail-message-id "nnmail")
137   (autoload 'mail-position-on-field "sendmail")
138   (autoload 'message-remove-header "message")
139   (autoload 'gnus-buffer-live-p "gnus-util"))
140
141 ;; mm-util stuff.
142 (unless (featurep 'mm-util)
143   ;; Should keep track of `mm-image-load-path' in mm-util.el.
144   (defun nnheader-image-load-path (&optional package)
145     (let (dir result)
146       (dolist (path load-path (nreverse result))
147         (if (file-directory-p
148              (setq dir (concat (file-name-directory
149                                 (directory-file-name path))
150                                "etc/" (or package "gnus/"))))
151             (push dir result))
152         (push path result))))
153   (defalias 'mm-image-load-path 'nnheader-image-load-path)
154
155   ;; Should keep track of `mm-read-coding-system' in mm-util.el.
156   (defalias 'mm-read-coding-system 'read-coding-system)
157
158   ;; Should keep track of `mm-%s' in mm-util.el.
159   (defalias 'mm-multibyte-string-p
160     (if (fboundp 'multibyte-string-p)
161         'multibyte-string-p
162       'ignore))
163   (defalias 'mm-encode-coding-string 'encode-coding-string)
164   (defalias 'mm-decode-coding-string 'decode-coding-string)
165
166   ;; Should keep track of `mm-detect-coding-region' in mm-util.el.
167   (defun nnheader-detect-coding-region (start end)
168     "Like 'detect-coding-region' except returning the best one."
169     (let ((coding-systems (detect-coding-region (point) (point-max))))
170       (or (car-safe coding-systems)
171           coding-systems)))
172   (defalias 'mm-detect-coding-region 'nnheader-detect-coding-region)
173
174   ;; Should keep track of `mm-detect-mime-charset-region' in mm-util.el.
175   (defun nnheader-detect-mime-charset-region (start end)
176     "Detect MIME charset of the text in the region between START and END."
177     (coding-system-to-mime-charset
178      (nnheader-detect-coding-region start end)))
179   (defalias 'mm-detect-mime-charset-region
180     'nnheader-detect-mime-charset-region)
181
182   ;; Should keep track of `mm-with-unibyte-buffer' in mm-util.el.
183   (defmacro nnheader-with-unibyte-buffer (&rest forms)
184   "Create a temporary buffer, and evaluate FORMS there like `progn'.
185 Use unibyte mode for this."
186   `(let (default-enable-multibyte-characters)
187      (with-temp-buffer ,@forms)))
188   (put 'nnheader-with-unibyte-buffer 'lisp-indent-function 0)
189   (put 'nnheader-with-unibyte-buffer 'edebug-form-spec '(body))
190   (put 'mm-with-unibyte-buffer 'lisp-indent-function 0)
191   (put 'mm-with-unibyte-buffer 'edebug-form-spec '(body))
192   (defalias 'mm-with-unibyte-buffer 'nnheader-with-unibyte-buffer)
193
194   ;; Should keep track of `mm-with-unibyte-current-buffer' in mm-util.el.
195   (defmacro nnheader-with-unibyte-current-buffer (&rest forms)
196     "Evaluate FORMS with current current buffer temporarily made unibyte.
197 Also bind `default-enable-multibyte-characters' to nil.
198 Equivalent to `progn' in XEmacs"
199     (let ((multibyte (make-symbol "multibyte"))
200           (buffer (make-symbol "buffer")))
201       (cond ((featurep 'xemacs)
202              `(let (default-enable-multibyte-characters)
203                 ,@forms))
204             (t
205              `(let ((,multibyte enable-multibyte-characters)
206                     (,buffer (current-buffer)))
207                 (unwind-protect
208                     (let (default-enable-multibyte-characters)
209                       (set-buffer-multibyte nil)
210                       ,@forms)
211                   (set-buffer ,buffer)
212                   (set-buffer-multibyte ,multibyte)))))))
213   (put 'nnheader-with-unibyte-current-buffer 'lisp-indent-function 0)
214   (put 'nnheader-with-unibyte-current-buffer 'edebug-form-spec '(body))
215   (put 'mm-with-unibyte-current-buffer 'lisp-indent-function 0)
216   (put 'mm-with-unibyte-current-buffer 'edebug-form-spec '(body))
217   (defalias 'mm-with-unibyte-current-buffer
218     'nnheader-with-unibyte-current-buffer)
219
220   ;; Should keep track of `mm-with-unibyte' in mm-util.el.
221   (defmacro nnheader-with-unibyte (&rest forms)
222     "Eval the FORMS with the default value of `enable-multibyte-characters'
223 nil, ."
224     `(let (default-enable-multibyte-characters)
225        ,@forms))
226   (put 'nnheader-with-unibyte 'lisp-indent-function 0)
227   (put 'nnheader-with-unibyte 'edebug-form-spec '(body))
228   (put 'mm-with-unibyte 'lisp-indent-function 0)
229   (put 'mm-with-unibyte 'edebug-form-spec '(body))
230   (defalias 'mm-with-unibyte 'nnheader-with-unibyte)
231
232   ;; Should keep track of `mm-guess-mime-charset' in mm-util.el.
233   (defun nnheader-guess-mime-charset ()
234   "Guess the default MIME charset from the language environment."
235   (let ((language-info
236          (and (boundp 'current-language-environment)
237               (assoc current-language-environment
238                      language-info-alist)))
239         item)
240     (cond
241      ((null language-info)
242       'iso-8859-1)
243      ((setq item
244             (cadr
245              (or (assq 'coding-priority language-info)
246                  (assq 'coding-system language-info))))
247       (if (fboundp 'coding-system-get)
248           (or (coding-system-get item 'mime-charset)
249               item)
250         item))
251      ((setq item (car (last (assq 'charset language-info))))
252       (if (eq item 'ascii)
253           'iso-8859-1
254          (charsets-to-mime-charset (list item))))
255      (t
256       'iso-8859-1))))
257   (defalias 'mm-guess-mime-charset 'nnheader-guess-mime-charset)
258
259   (defalias 'mm-char-int 'char-int)
260
261   ;; Should keep track of the same alias in mm-util.el.
262   (defalias 'mm-multibyte-p
263     (static-cond ((and (featurep 'xemacs) (featurep 'mule))
264                   (lambda nil t))
265                  ((featurep 'xemacs)
266                   (lambda nil nil))
267                  (t
268                   (lambda nil enable-multibyte-characters))))
269
270   ;; Should keep track of the same alias in mm-util.el.
271   (defalias 'mm-make-temp-file
272     (if (fboundp 'make-temp-file)
273         'make-temp-file
274       (lambda (prefix &optional dir-flag)
275         (let ((file (expand-file-name
276                      (make-temp-name prefix)
277                      (if (fboundp 'temp-directory)
278                          (temp-directory)
279                        temporary-file-directory))))
280           (if dir-flag
281               (make-directory file))
282           file))))
283
284   ;; Should keep track of `mm-coding-system-p' in mm-util.el.
285   (defun nnheader-coding-system-p (sym)
286     "Return non-nil if SYM is a coding system."
287     (or (and (fboundp 'find-coding-system) (find-coding-system sym))
288         (and (fboundp 'coding-system-p) (coding-system-p sym))))
289   (defalias 'mm-coding-system-p 'nnheader-coding-system-p)
290
291   (defalias 'mm-disable-multibyte
292     (static-if (featurep 'xemacs)
293         'ignore
294       (lambda nil (set-buffer-multibyte nil))))
295   (defalias 'mm-enable-multibyte
296     (static-if (featurep 'xemacs)
297         'ignore
298       ;; Why isn't it t but `to'?  See mm-util.el.
299       (lambda nil (set-buffer-multibyte 'to))))
300
301   (defalias 'mm-encode-coding-region 'encode-coding-region)
302
303   (defalias 'mm-string-make-unibyte
304     (if (fboundp 'string-make-unibyte)
305         'string-make-unibyte
306       'identity)))
307
308 ;; mail-parse stuff.
309 (unless (featurep 'mail-parse)
310   (unless (fboundp 'std11-narrow-to-field)
311     (defalias 'std11-narrow-to-field
312       ;; Should keep track of `rfc2047-narrow-to-field' in rfc2047.el.
313       (lambda ()
314         "Narrow the buffer to the header on the current line."
315         (forward-line 0)
316         (narrow-to-region (point)
317                           (progn
318                             (std11-field-end)
319                             (when (eolp) (forward-line 1))
320                             (point)))
321         (goto-char (point-min)))))
322   (defalias 'mail-header-narrow-to-field 'std11-narrow-to-field)
323
324   ;; Should keep track of `ietf-drums-narrow-to-header' in ietf-drums.el.
325   (defun mail-narrow-to-head ()
326     "Narrow to the header section in the current buffer."
327     (narrow-to-region
328      (goto-char (point-min))
329      (if (re-search-forward "^\r?$" nil 1)
330          (match-beginning 0)
331        (point-max)))
332     (goto-char (point-min)))
333
334   (unless (fboundp 'std11-fold-region)
335     (defalias 'std11-fold-region
336       ;; Should keep track of `rfc2047-fold-region' in rfc2047.el.
337       (lambda (b e)
338         "Fold long lines in region B to E."
339         (save-restriction
340           (narrow-to-region b e)
341           (goto-char (point-min))
342           (let ((break nil)
343                 (qword-break nil)
344                 (first t)
345                 (bol (save-restriction
346                        (widen)
347                        (point-at-bol))))
348             (while (not (eobp))
349               (when (and (or break qword-break)
350                          (> (- (point) bol) 76))
351                 (goto-char (or break qword-break))
352                 (setq break nil
353                       qword-break nil)
354                 (if (looking-at "[ \t]")
355                     (insert "\n")
356                   (insert "\n "))
357                 (setq bol (1- (point)))
358                 ;; Don't break before the first non-LWSP characters.
359                 (skip-chars-forward " \t")
360                 (unless (eobp)
361                   (forward-char 1)))
362               (cond
363                ((eq (char-after) ?\n)
364                 (forward-char 1)
365                 (setq bol (point)
366                       break nil
367                       qword-break nil)
368                 (skip-chars-forward " \t")
369                 (unless (or (eobp) (eq (char-after) ?\n))
370                   (forward-char 1)))
371                ((eq (char-after) ?\r)
372                 (forward-char 1))
373                ((memq (char-after) '(?  ?\t))
374                 (skip-chars-forward " \t")
375                 (if first
376                     ;; Don't break just after the header name.
377                     (setq first nil)
378                   (setq break (1- (point)))))
379                ((not break)
380                 (if (not (looking-at "=\\?[^=]"))
381                     (if (eq (char-after) ?=)
382                         (forward-char 1)
383                       (skip-chars-forward "^ \t\n\r="))
384                   (setq qword-break (point))
385                   (skip-chars-forward "^ \t\n\r")))
386                (t
387                 (skip-chars-forward "^ \t\n\r"))))
388             (when (and (or break qword-break)
389                        (> (- (point) bol) 76))
390               (goto-char (or break qword-break))
391               (setq break nil
392                     qword-break nil)
393               (if (looking-at "[ \t]")
394                   (insert "\n")
395                 (insert "\n "))
396               (setq bol (1- (point)))
397               ;; Don't break before the first non-LWSP characters.
398               (skip-chars-forward " \t")
399               (unless (eobp)
400                 (forward-char 1))))))))
401
402   (unless (fboundp 'std11-fold-field)
403     (defalias 'std11-fold-field
404       ;; Should keep track of `rfc2047-fold-field' in rfc2047.el.
405       (lambda ()
406         "Fold the current line."
407         (save-excursion
408           (save-restriction
409             (std11-narrow-to-field)
410             (std11-fold-region (point-min) (point-max)))))))
411   (defalias 'mail-header-fold-field 'std11-fold-field)
412
413   (unless (fboundp 'std11-unfold-region)
414     (defalias 'std11-unfold-region
415       ;; Should keep track of `rfc2047-unfold-region' in rfc2047.el.
416       (lambda (b e)
417         "Unfold lines in region B to E."
418         (save-restriction
419           (narrow-to-region b e)
420           (goto-char (point-min))
421           (let ((bol (save-restriction
422                        (widen)
423                        (point-at-bol)))
424                 (eol (point-at-eol)))
425             (forward-line 1)
426             (while (not (eobp))
427               (if (and (looking-at "[ \t]")
428                        (< (- (point-at-eol) bol) 76))
429                   (delete-region eol (progn
430                                        (goto-char eol)
431                                        (skip-chars-forward "\r\n")
432                                        (point)))
433                 (setq bol (point-at-bol)))
434               (setq eol (point-at-eol))
435               (forward-line 1)))))))
436
437   (unless (fboundp 'std11-unfold-field)
438     (defalias 'std11-unfold-field
439       ;; Should keep track of `rfc2047-unfold-field' in rfc2047.el.
440       (lambda ()
441         "Fold the current line."
442         (save-excursion
443           (save-restriction
444             (std11-narrow-to-field)
445             (std11-unfold-region (point-min) (point-max)))))))
446   (defalias 'mail-header-unfold-field 'std11-unfold-field)
447
448   (unless (fboundp 'std11-extract-addresses-components)
449     (defalias 'std11-extract-addresses-components
450       ;; This is the original function in T-gnus.
451       (lambda (string)
452         "Extract a list of full name and canonical address from STRING.  Each
453 element looks like a list of the form (FULL-NAME CANONICAL-ADDRESS).
454 If no name can be extracted, FULL-NAME will be nil."
455         (when string
456           (let (addresses)
457             (dolist (structure (std11-parse-addresses-string
458                                 (std11-unfold-string string))
459                                addresses)
460               (push (list (std11-full-name-string structure)
461                           (std11-address-string structure))
462                     addresses))
463             (nreverse addresses))))))
464
465   ;; Should keep track of `ietf-drums-parse-addresses' in ietf-drums.el.
466   (defun mail-header-parse-addresses (string)
467     "Parse STRING and return a list of MAILBOX / DISPLAY-NAME pairs."
468     (mapcar (function
469              (lambda (components)
470                (cons (nth 1 components) (car components))))
471             (std11-extract-addresses-components string)))
472
473   ;; Should keep track of `rfc2047-field-value' in rfc2047.el.
474   (defun std11-field-value (&optional dont-include-last-newline)
475     "Return the value of the field at point.  If the optional argument is
476 given, the return value will not contain the last newline."
477     (let ((begin (point))
478           (inhibit-point-motion-hooks t)
479           start value)
480       (beginning-of-line)
481       (unless (eobp)
482         (while (and (memq (char-after) '(?\t ?\ ))
483                     (zerop (forward-line -1))))
484         (when (looking-at "[^\t\n ]+:[\t\n ]+")
485           (goto-char (setq start (match-end 0)))
486           (forward-line 1)
487           (while (and (memq (char-after) '(?\t ?\ ))
488                       (zerop (forward-line 1))))
489           (when dont-include-last-newline
490             (skip-chars-backward "\t\n " start))
491           (setq value (buffer-substring start (point)))))
492       (goto-char begin)
493       value))
494   (defalias 'mail-header-field-value 'std11-field-value))
495
496 ;; ietf-drums stuff.
497 (unless (featurep 'ietf-drums)
498   ;; Should keep track of `ietf-drums-unfold-fws' in ietf-drums.el.
499   (defun nnheader-unfold-fws ()
500     "Unfold folding white space in the current buffer."
501     (goto-char (point-min))
502     (while (re-search-forward "[ \t]*\n[ \t]+" nil t)
503       (replace-match " " t t))
504     (goto-char (point-min)))
505
506   (defalias 'ietf-drums-unfold-fws 'nnheader-unfold-fws))
507
508 ;;; Header access macros.
509
510 ;; These macros may look very much like the ones in GNUS 4.1.  They
511 ;; are, in a way, but you should note that the indices they use have
512 ;; been changed from the internal GNUS format to the NOV format.  The
513 ;; makes it possible to read headers from XOVER much faster.
514 ;;
515 ;; The format of a header is now:
516 ;; [number subject from date id references chars lines xref extra]
517 ;;
518 ;; (That next-to-last entry is defined as "misc" in the NOV format,
519 ;; but Gnus uses it for xrefs.)
520
521 (require 'mmgnus)
522
523 (defmacro mail-header-number (header)
524   "Return article number in HEADER."
525   `(mime-entity-location-internal ,header))
526
527 (defmacro mail-header-set-number (header number)
528   "Set article number of HEADER to NUMBER."
529   `(mime-entity-set-location-internal ,header ,number))
530
531 (defalias 'mail-header-subject 'mime-gnus-entity-subject-internal)
532 (defalias 'mail-header-set-subject 'mime-gnus-entity-set-subject-internal)
533
534 (defalias 'mail-header-from 'mime-gnus-entity-from-internal)
535 (defalias 'mail-header-set-from 'mime-gnus-entity-set-from-internal)
536
537 (defalias 'mail-header-date 'mime-gnus-entity-date-internal)
538 (defalias 'mail-header-set-date 'mime-gnus-entity-set-date-internal)
539
540 (defalias 'mail-header-message-id 'mime-gnus-entity-id-internal)
541 (defalias 'mail-header-id 'mime-gnus-entity-id-internal)
542 (defalias 'mail-header-set-message-id 'mime-gnus-entity-set-id-internal)
543 (defalias 'mail-header-set-id 'mime-gnus-entity-set-id-internal)
544
545 (defalias 'mail-header-references 'mime-gnus-entity-references-internal)
546 (defalias 'mail-header-set-references
547   'mime-gnus-entity-set-references-internal)
548
549 (defalias 'mail-header-chars 'mime-gnus-entity-chars-internal)
550 (defalias 'mail-header-set-chars 'mime-gnus-entity-set-chars-internal)
551
552 (defalias 'mail-header-lines 'mime-gnus-entity-lines-internal)
553 (defalias 'mail-header-set-lines 'mime-gnus-entity-set-lines-internal)
554
555 (defalias 'mail-header-xref 'mime-gnus-entity-xref-internal)
556 (defalias 'mail-header-set-xref 'mime-gnus-entity-set-xref-internal)
557
558 (defalias 'nnheader-decode-subject
559   (mime-find-field-decoder 'Subject 'nov))
560 (defalias 'nnheader-decode-from
561   (mime-find-field-decoder 'From 'nov))
562
563 (defalias 'mail-header-extra 'mime-gnus-entity-extra-internal)
564 (defalias 'mail-header-set-extra 'mime-gnus-entity-set-extra-internal)
565
566 (defun nnheader-decode-field-body (field-body field-name
567                                               &optional mode max-column)
568   (mime-decode-field-body field-body
569                           (if (stringp field-name)
570                               (intern (capitalize field-name))
571                             field-name)
572                           mode max-column))
573
574 (defsubst make-full-mail-header (&optional number subject from date id
575                                            references chars lines xref
576                                            extra)
577   "Create a new mail header structure initialized with the parameters given."
578   (luna-make-entity (mm-expand-class-name 'gnus)
579                     :location number
580                     :subject (if subject
581                                  (nnheader-decode-subject subject))
582                     :from (if from
583                               (nnheader-decode-from from))
584                     :date date
585                     :id id
586                     :references references
587                     :chars chars
588                     :lines lines
589                     :xref xref
590                     :original-header (list (cons 'Subject subject)
591                                            (cons 'From from))
592                     :extra extra))
593
594 (defsubst make-full-mail-header-from-decoded-header
595   (&optional number subject from date id references chars lines xref extra)
596   "Create a new mail header structure initialized with the parameters given."
597   (luna-make-entity (mm-expand-class-name 'gnus)
598                     :location number
599                     :subject subject
600                     :from from
601                     :date date
602                     :id id
603                     :references references
604                     :chars chars
605                     :lines lines
606                     :xref xref
607                     :extra extra))
608
609 (defsubst make-mail-header (&optional init)
610   "Create a new mail header structure initialized with INIT."
611   (make-full-mail-header init init init init init
612                          init init init init init))
613
614 ;; fake message-ids: generation and detection
615
616 (defvar nnheader-fake-message-id 1)
617
618 (defsubst nnheader-generate-fake-message-id ()
619   (concat "fake+none+" (int-to-string (incf nnheader-fake-message-id))))
620
621 (defsubst nnheader-fake-message-id-p (id)
622   (save-match-data                      ; regular message-id's are <.*>
623     (string-match "\\`fake\\+none\\+[0-9]+\\'" id)))
624
625 ;; Parsing headers and NOV lines.
626
627 (defsubst nnheader-remove-cr-followed-by-lf ()
628   (goto-char (point-max))
629   (while (search-backward "\r\n" nil t)
630     (delete-char 1)))
631
632 (defsubst nnheader-header-value ()
633   (let ((pt (point)))
634     (prog2
635         (skip-chars-forward " \t")
636         (buffer-substring (point) (std11-field-end))
637       (goto-char pt))))
638
639 (defun nnheader-parse-naked-head (&optional number)
640   ;; This function unfolds continuation lines in this buffer
641   ;; destructively.  When this side effect is unwanted, use
642   ;; `nnheader-parse-head' instead of this function.
643   (let ((case-fold-search t)
644         (buffer-read-only nil)
645         (cur (current-buffer))
646         (p (point-min))
647         in-reply-to lines ref)
648     (nnheader-remove-cr-followed-by-lf)
649     (ietf-drums-unfold-fws)
650     (subst-char-in-region (point-min) (point-max) ?\t ? )
651     (goto-char p)
652     (insert "\n")
653     (prog1
654         ;; This implementation of this function, with nine
655         ;; search-forwards instead of the one re-search-forward and a
656         ;; case (which basically was the old function) is actually
657         ;; about twice as fast, even though it looks messier.  You
658         ;; can't have everything, I guess.  Speed and elegance don't
659         ;; always go hand in hand.
660         (make-full-mail-header
661          ;; Number.
662          (or number 0)
663          ;; Subject.
664          (progn
665            (goto-char p)
666            (if (search-forward "\nsubject:" nil t)
667                (nnheader-header-value) "(none)"))
668          ;; From.
669          (progn
670            (goto-char p)
671            (if (search-forward "\nfrom:" nil t)
672                (nnheader-header-value) "(nobody)"))
673          ;; Date.
674          (progn
675            (goto-char p)
676            (if (search-forward "\ndate:" nil t)
677                (nnheader-header-value) ""))
678          ;; Message-ID.
679          (progn
680            (goto-char p)
681            (if (search-forward "\nmessage-id:" nil t)
682                (buffer-substring
683                 (1- (or (search-forward "<" (point-at-eol) t)
684                         (point)))
685                 (or (search-forward ">" (point-at-eol) t) (point)))
686              ;; If there was no message-id, we just fake one to make
687              ;; subsequent routines simpler.
688              (nnheader-generate-fake-message-id)))
689          ;; References.
690          (progn
691            (goto-char p)
692            (if (search-forward "\nreferences:" nil t)
693                (nnheader-header-value)
694              ;; Get the references from the in-reply-to header if
695              ;; there were no references and the in-reply-to header
696              ;; looks promising.
697              (if (and (search-forward "\nin-reply-to:" nil t)
698                       (setq in-reply-to (nnheader-header-value))
699                       (string-match "<[^\n>]+>" in-reply-to))
700                  (let (ref2)
701                    (setq ref (substring in-reply-to (match-beginning 0)
702                                         (match-end 0)))
703                    (while (string-match "<[^\n>]+>"
704                                         in-reply-to (match-end 0))
705                      (setq ref2 (substring in-reply-to (match-beginning 0)
706                                            (match-end 0)))
707                      (when (> (length ref2) (length ref))
708                        (setq ref ref2)))
709                    ref)
710                nil)))
711          ;; Chars.
712          0
713          ;; Lines.
714          (progn
715            (goto-char p)
716            (if (search-forward "\nlines: " nil t)
717                (if (numberp (setq lines (read cur)))
718                    lines 0)
719              0))
720          ;; Xref.
721          (progn
722            (goto-char p)
723            (and (search-forward "\nxref:" nil t)
724                 (nnheader-header-value)))
725          ;; Extra.
726          (when nnmail-extra-headers
727            (let ((extra nnmail-extra-headers)
728                  out)
729              (while extra
730                (goto-char p)
731                (when (search-forward
732                       (concat "\n" (symbol-name (car extra)) ":") nil t)
733                  (push (cons (car extra) (nnheader-header-value))
734                        out))
735                (pop extra))
736              out)))
737       (goto-char p)
738       (delete-char 1))))
739
740 (defun nnheader-parse-head (&optional naked)
741   (let ((cur (current-buffer)) num beg end)
742     (when (if naked
743               (setq num 0
744                     beg (point-min)
745                     end (point-max))
746             (goto-char (point-min))
747             ;; Search to the beginning of the next header.  Error
748             ;; messages do not begin with 2 or 3.
749             (when (re-search-forward "^[23][0-9]+ " nil t)
750               (end-of-line)
751               (setq num (read cur)
752                     beg (point)
753                     end (if (search-forward "\n.\n" nil t)
754                             (- (point) 2)
755                           (point)))))
756       (with-temp-buffer
757         (insert-buffer-substring cur beg end)
758         (nnheader-parse-naked-head num)))))
759
760 (defmacro nnheader-nov-skip-field ()
761   '(search-forward "\t" eol 'move))
762
763 (defmacro nnheader-nov-field ()
764   '(buffer-substring (point) (if (nnheader-nov-skip-field) (1- (point)) eol)))
765
766 (defmacro nnheader-nov-read-integer ()
767   '(prog1
768        (if (eq (char-after) ?\t)
769            0
770          (let ((num (condition-case nil
771                         (read (current-buffer))
772                       (error nil))))
773            (if (numberp num) num 0)))
774      (unless (eobp)
775        (search-forward "\t" eol 'move))))
776
777 (defmacro nnheader-nov-parse-extra ()
778   '(let (out string)
779      (while (not (memq (char-after) '(?\n nil)))
780        (setq string (nnheader-nov-field))
781        (when (string-match "^\\([^ :]+\\): " string)
782          (push (cons (intern (match-string 1 string))
783                      (substring string (match-end 0)))
784                out)))
785      out))
786
787 (defmacro nnheader-nov-read-message-id ()
788   '(let ((id (nnheader-nov-field)))
789      (if (string-match "^<[^>]+>$" id)
790          id
791        (nnheader-generate-fake-message-id))))
792
793 (defun nnheader-parse-nov ()
794   (let ((eol (point-at-eol)))
795     (make-full-mail-header
796      (nnheader-nov-read-integer)        ; number
797      (nnheader-nov-field)               ; subject
798      (nnheader-nov-field)               ; from
799      (nnheader-nov-field)               ; date
800      (nnheader-nov-read-message-id)     ; id
801      (nnheader-nov-field)               ; refs
802      (nnheader-nov-read-integer)        ; chars
803      (nnheader-nov-read-integer)        ; lines
804      (if (eq (char-after) ?\n)
805          nil
806        (if (looking-at "Xref: ")
807            (goto-char (match-end 0)))
808        (nnheader-nov-field))            ; Xref
809      (nnheader-nov-parse-extra))))      ; extra
810
811 (defun nnheader-insert-nov (header)
812   (princ (mail-header-number header) (current-buffer))
813   (let ((p (point)))
814     (insert
815      "\t"
816      (or (mime-entity-fetch-field header 'Subject) "(none)") "\t"
817      (or (mime-entity-fetch-field header 'From) "(nobody)") "\t"
818      (or (mail-header-date header) "") "\t"
819      (or (mail-header-id header)
820          (nnmail-message-id))
821      "\t"
822      (or (mail-header-references header) "") "\t")
823     (princ (or (mail-header-chars header) 0) (current-buffer))
824     (insert "\t")
825     (princ (or (mail-header-lines header) 0) (current-buffer))
826     (insert "\t")
827     (when (mail-header-xref header)
828       (insert "Xref: " (mail-header-xref header)))
829     (when (or (mail-header-xref header)
830               (mail-header-extra header))
831       (insert "\t"))
832     (when (mail-header-extra header)
833       (let ((extra (mail-header-extra header)))
834         (while extra
835           (insert (symbol-name (caar extra))
836                   ": " (cdar extra) "\t")
837           (pop extra))))
838     (insert "\n")
839     (backward-char 1)
840     (while (search-backward "\n" p t)
841       (delete-char 1))
842     (forward-line 1)))
843
844 (defun nnheader-parse-overview-file (file)
845   "Parse FILE and return a list of headers."
846   (mm-with-unibyte-buffer
847     (nnheader-insert-file-contents file)
848     (goto-char (point-min))
849     (let (headers)
850       (while (not (eobp))
851         (push (nnheader-parse-nov) headers)
852         (forward-line 1))
853       (nreverse headers))))
854
855 (defun nnheader-write-overview-file (file headers)
856   "Write HEADERS to FILE."
857   (with-temp-file file
858     (mapcar 'nnheader-insert-nov headers)))
859
860 (defun nnheader-insert-header (header)
861   (insert
862    "Subject: " (or (mail-header-subject header) "(none)") "\n"
863    "From: " (or (mail-header-from header) "(nobody)") "\n"
864    "Date: " (or (mail-header-date header) "") "\n"
865    "Message-ID: " (or (mail-header-id header) (nnmail-message-id)) "\n"
866    "References: " (or (mail-header-references header) "") "\n"
867    "Lines: ")
868   (princ (or (mail-header-lines header) 0) (current-buffer))
869   (insert "\n\n"))
870
871 (defun nnheader-insert-article-line (article)
872   (goto-char (point-min))
873   (insert "220 ")
874   (princ article (current-buffer))
875   (insert " Article retrieved.\n")
876   (search-forward "\n\n" nil 'move)
877   (delete-region (point) (point-max))
878   (forward-char -1)
879   (insert "."))
880
881 (defun nnheader-nov-delete-outside-range (beg end)
882   "Delete all NOV lines that lie outside the BEG to END range."
883   ;; First we find the first wanted line.
884   (nnheader-find-nov-line beg)
885   (delete-region (point-min) (point))
886   ;; Then we find the last wanted line.
887   (when (nnheader-find-nov-line end)
888     (forward-line 1))
889   (delete-region (point) (point-max)))
890
891 (defun nnheader-find-nov-line (article)
892   "Put point at the NOV line that start with ARTICLE.
893 If ARTICLE doesn't exist, put point where that line
894 would have been.  The function will return non-nil if
895 the line could be found."
896   ;; This function basically does a binary search.
897   (let ((max (point-max))
898         (min (goto-char (point-min)))
899         (cur (current-buffer))
900         (prev (point-min))
901         num found)
902     (while (not found)
903       (goto-char (+ min (/ (- max min) 2)))
904       (beginning-of-line)
905       (if (or (= (point) prev)
906               (eobp))
907           (setq found t)
908         (setq prev (point))
909         (while (and (not (numberp (setq num (read cur))))
910                     (not (eobp)))
911           (gnus-delete-line))
912         (cond ((> num article)
913                (setq max (point)))
914               ((< num article)
915                (setq min (point)))
916               (t
917                (setq found 'yes)))))
918     ;; We may be at the first line.
919     (when (and (not num)
920                (not (eobp)))
921       (setq num (read cur)))
922     ;; Now we may have found the article we're looking for, or we
923     ;; may be somewhere near it.
924     (when (and (not (eq found 'yes))
925                (not (eq num article)))
926       (setq found (point))
927       (while (and (< (point) max)
928                   (or (not (numberp num))
929                       (< num article)))
930         (forward-line 1)
931         (setq found (point))
932         (or (eobp)
933             (= (setq num (read cur)) article)))
934       (unless (eq num article)
935         (goto-char found)))
936     (beginning-of-line)
937     (eq num article)))
938
939 (defun nnheader-retrieve-headers-from-directory* (articles
940                                                   directory dependencies
941                                                   &optional
942                                                   fetch-old force-new large
943                                                   backend)
944   (with-temp-buffer
945     (let* ((file nil)
946            (number (length articles))
947            (count 0)
948            (file-name-coding-system 'binary)
949            (case-fold-search t)
950            (cur (current-buffer))
951            article
952            headers header id end ref in-reply-to lines chars ctype)
953       ;; We don't support fetching by Message-ID.
954       (if (stringp (car articles))
955           'headers
956         (while articles
957           (when (and (file-exists-p
958                       (setq file (expand-file-name
959                                   (int-to-string
960                                    (setq article (pop articles)))
961                                   directory)))
962                      (not (file-directory-p file)))
963             (erase-buffer)
964             (nnheader-insert-head file)
965             (save-restriction
966               (std11-narrow-to-header)
967               (setq
968                header
969                (make-full-mail-header
970                 ;; Number.
971                 article
972                 ;; Subject.
973                 (or (std11-fetch-field "Subject")
974                     "(none)")
975                 ;; From.
976                 (or (std11-fetch-field "From")
977                     "(nobody)")
978                 ;; Date.
979                 (or (std11-fetch-field "Date")
980                     "")
981                 ;; Message-ID.
982                 (progn
983                   (goto-char (point-min))
984                   (setq id (if (re-search-forward
985                                 "^Message-ID: *\\(<[^\n\t> ]+>\\)" nil t)
986                                ;; We do it this way to make sure the Message-ID
987                                ;; is (somewhat) syntactically valid.
988                                (buffer-substring (match-beginning 1)
989                                                  (match-end 1))
990                              ;; If there was no message-id, we just fake one
991                              ;; to make subsequent routines simpler.
992                              (nnheader-generate-fake-message-id))))
993                 ;; References.
994                 (progn
995                   (goto-char (point-min))
996                   (if (search-forward "\nReferences: " nil t)
997                       (progn
998                         (setq end (point))
999                         (prog1
1000                             (buffer-substring (match-end 0) (std11-field-end))
1001                           (setq ref
1002                                 (buffer-substring
1003                                  (progn
1004                                    ;; (end-of-line)
1005                                    (search-backward ">" end t)
1006                                    (1+ (point)))
1007                                  (progn
1008                                    (search-backward "<" end t)
1009                                    (point))))))
1010                     ;; Get the references from the in-reply-to header if there
1011                     ;; were no references and the in-reply-to header looks
1012                     ;; promising.
1013                     (if (and (search-forward "\nIn-Reply-To: " nil t)
1014                              (setq in-reply-to
1015                                    (buffer-substring (match-end 0)
1016                                                      (std11-field-end)))
1017                              (string-match "<[^>]+>" in-reply-to))
1018                         (let (ref2)
1019                           (setq ref (substring in-reply-to (match-beginning 0)
1020                                                (match-end 0)))
1021                           (while (string-match "<[^>]+>"
1022                                                in-reply-to (match-end 0))
1023                             (setq ref2
1024                                   (substring in-reply-to (match-beginning 0)
1025                                              (match-end 0)))
1026                             (when (> (length ref2) (length ref))
1027                               (setq ref ref2)))
1028                           ref)
1029                       (setq ref nil))))
1030                 ;; Chars.
1031                 (progn
1032                   (goto-char (point-min))
1033                   (if (search-forward "\nChars: " nil t)
1034                       (if (numberp (setq chars (ignore-errors (read cur))))
1035                           chars 0)
1036                     0))
1037                 ;; Lines.
1038                 (progn
1039                   (goto-char (point-min))
1040                   (if (search-forward "\nLines: " nil t)
1041                       (if (numberp (setq lines (ignore-errors (read cur))))
1042                           lines 0)
1043                     0))
1044                 ;; Xref.
1045                 (std11-fetch-field "Xref")
1046                 ))
1047               (goto-char (point-min))
1048               (if (setq ctype (std11-fetch-field "Content-Type"))
1049                   (mime-entity-set-content-type-internal
1050                    header (mime-parse-Content-Type ctype)))
1051               )
1052             (when (setq header
1053                         (gnus-dependencies-add-header
1054                          header dependencies force-new))
1055               (push header headers))
1056             )
1057           (setq count (1+ count))
1058
1059           (and large
1060                (zerop (% count 20))
1061                (nnheader-message 5 "%s: Receiving headers... %d%%"
1062                                  backend
1063                                  (/ (* count 100) number))))
1064
1065         (when large
1066           (nnheader-message 5 "%s: Receiving headers...done" backend))
1067
1068         headers))))
1069
1070 (defun nnheader-retrieve-headers-from-directory (articles
1071                                                  directory dependencies
1072                                                  &optional
1073                                                  fetch-old force-new large
1074                                                  backend)
1075   (cons 'header
1076         (nreverse (nnheader-retrieve-headers-from-directory*
1077                    articles directory dependencies
1078                    fetch-old force-new large backend))))
1079
1080 (defun nnheader-get-newsgroup-headers-xover* (sequence
1081                                               &optional
1082                                               force-new dependencies
1083                                               group)
1084   "Parse the news overview data in the server buffer, and return a
1085 list of headers that match SEQUENCE (see `nntp-retrieve-headers')."
1086   ;; Get the Xref when the users reads the articles since most/some
1087   ;; NNTP servers do not include Xrefs when using XOVER.
1088   ;; (setq gnus-article-internal-prepare-hook '(gnus-article-get-xrefs))
1089   (let ((cur nntp-server-buffer)
1090         number headers header)
1091     (save-excursion
1092       (set-buffer nntp-server-buffer)
1093       ;; Allow the user to mangle the headers before parsing them.
1094       (gnus-run-hooks 'gnus-parse-headers-hook)
1095       (goto-char (point-min))
1096       (while (not (eobp))
1097         (condition-case ()
1098             (while (and sequence (not (eobp)))
1099               (setq number (read cur))
1100               (while (and sequence
1101                           (< (car sequence) number))
1102                 (setq sequence (cdr sequence)))
1103               (and sequence
1104                    (eq number (car sequence))
1105                    (progn
1106                      (setq sequence (cdr sequence))
1107                      (setq header (inline
1108                                     (gnus-nov-parse-line
1109                                      number dependencies force-new))))
1110                    (push header headers))
1111               (forward-line 1))
1112           (error
1113            (gnus-error 4 "Strange nov line (%d)"
1114                        (count-lines (point-min) (point)))))
1115         (forward-line 1))
1116       ;; A common bug in inn is that if you have posted an article and
1117       ;; then retrieves the active file, it will answer correctly --
1118       ;; the new article is included.  However, a NOV entry for the
1119       ;; article may not have been generated yet, so this may fail.
1120       ;; We work around this problem by retrieving the last few
1121       ;; headers using HEAD.
1122       headers)))
1123
1124 ;; Various cruft the backends and Gnus need to communicate.
1125
1126 (defvar nntp-server-buffer nil)
1127 (defvar nntp-process-response nil)
1128 (defvar news-reply-yank-from nil)
1129 (defvar news-reply-yank-message-id nil)
1130
1131 (defvar nnheader-callback-function nil)
1132
1133 (defun nnheader-init-server-buffer ()
1134   "Initialize the Gnus-backend communication buffer."
1135   (save-excursion
1136     (unless (gnus-buffer-live-p nntp-server-buffer)
1137       (setq nntp-server-buffer (get-buffer-create " *nntpd*")))
1138     (set-buffer nntp-server-buffer)
1139     (erase-buffer)
1140     (kill-all-local-variables)
1141     (setq case-fold-search t)           ;Should ignore case.
1142     (set (make-local-variable 'nntp-process-response) nil)
1143     t))
1144
1145 ;;; Various functions the backends use.
1146
1147 (defun nnheader-file-error (file)
1148   "Return a string that says what is wrong with FILE."
1149   (format
1150    (cond
1151     ((not (file-exists-p file))
1152      "%s does not exist")
1153     ((file-directory-p file)
1154      "%s is a directory")
1155     ((not (file-readable-p file))
1156      "%s is not readable"))
1157    file))
1158
1159 (defun nnheader-insert-head (file)
1160   "Insert the head of the article."
1161   (when (file-exists-p file)
1162     (if (eq nnheader-max-head-length t)
1163         ;; Just read the entire file.
1164         (nnheader-insert-file-contents file)
1165       ;; Read 1K blocks until we find a separator.
1166       (let ((beg 0)
1167             format-alist)
1168         (while (and (eq nnheader-head-chop-length
1169                         (nth 1 (nnheader-insert-file-contents
1170                                 file nil beg
1171                                 (incf beg nnheader-head-chop-length))))
1172                     (prog1 (not (search-forward "\n\n" nil t))
1173                       (goto-char (point-max)))
1174                     (or (null nnheader-max-head-length)
1175                         (< beg nnheader-max-head-length))))))
1176     t))
1177
1178 (defun nnheader-article-p ()
1179   "Say whether the current buffer looks like an article."
1180   (goto-char (point-min))
1181   (if (not (search-forward "\n\n" nil t))
1182       nil
1183     (narrow-to-region (point-min) (1- (point)))
1184     (goto-char (point-min))
1185     (while (looking-at "[a-zA-Z][^ \t]+:.*\n\\([ \t].*\n\\)*\\|From .*\n")
1186       (goto-char (match-end 0)))
1187     (prog1
1188         (eobp)
1189       (widen))))
1190
1191 (defun nnheader-insert-references (references message-id)
1192   "Insert a References header based on REFERENCES and MESSAGE-ID."
1193   (if (and (not references) (not message-id))
1194       ;; This is invalid, but not all articles have Message-IDs.
1195       ()
1196     (mail-position-on-field "References")
1197     (let ((begin (point-at-bol))
1198           (fill-column 78)
1199           (fill-prefix "\t"))
1200       (when references
1201         (insert references))
1202       (when (and references message-id)
1203         (insert " "))
1204       (when message-id
1205         (insert message-id))
1206       ;; Fold long References lines to conform to RFC1036 (sort of).
1207       ;; The region must end with a newline to fill the region
1208       ;; without inserting extra newline.
1209       (fill-region-as-paragraph begin (1+ (point))))))
1210
1211 (defun nnheader-replace-header (header new-value)
1212   "Remove HEADER and insert the NEW-VALUE."
1213   (save-excursion
1214     (save-restriction
1215       (nnheader-narrow-to-headers)
1216       (prog1
1217           (message-remove-header header)
1218         (goto-char (point-max))
1219         (insert header ": " new-value "\n")))))
1220
1221 (defun nnheader-narrow-to-headers ()
1222   "Narrow to the head of an article."
1223   (widen)
1224   (narrow-to-region
1225    (goto-char (point-min))
1226    (if (search-forward "\n\n" nil t)
1227        (1- (point))
1228      (point-max)))
1229   (goto-char (point-min)))
1230
1231 (defun nnheader-get-lines-and-char ()
1232   "Return the number of lines and chars in the article body."
1233   (goto-char (point-min))
1234   (if (not (re-search-forward "\n\r?\n" nil t))
1235       (list 0 0)
1236     (list (count-lines (point) (point-max))
1237           (- (point-max) (point)))))
1238
1239 (defun nnheader-remove-body ()
1240   "Remove the body from an article in this current buffer."
1241   (goto-char (point-min))
1242   (when (re-search-forward "\n\r?\n" nil t)
1243     (delete-region (point) (point-max))))
1244
1245 (defun nnheader-set-temp-buffer (name &optional noerase)
1246   "Set-buffer to an empty (possibly new) buffer called NAME with undo disabled."
1247   (set-buffer (get-buffer-create name))
1248   (buffer-disable-undo)
1249   (unless noerase
1250     (erase-buffer))
1251   (current-buffer))
1252
1253 (eval-when-compile (defvar jka-compr-compression-info-list))
1254 (defvar nnheader-numerical-files
1255   (if (boundp 'jka-compr-compression-info-list)
1256       (concat "\\([0-9]+\\)\\("
1257               (mapconcat (lambda (i) (aref i 0))
1258                          jka-compr-compression-info-list "\\|")
1259               "\\)?")
1260     "[0-9]+$")
1261   "Regexp that match numerical files.")
1262
1263 (defvar nnheader-numerical-short-files (concat "^" nnheader-numerical-files)
1264   "Regexp that matches numerical file names.")
1265
1266 (defvar nnheader-numerical-full-files (concat "/" nnheader-numerical-files)
1267   "Regexp that matches numerical full file names.")
1268
1269 (defsubst nnheader-file-to-number (file)
1270   "Take a FILE name and return the article number."
1271   (if (string= nnheader-numerical-short-files "^[0-9]+$")
1272       (string-to-int file)
1273     (string-match nnheader-numerical-short-files file)
1274     (string-to-int (match-string 0 file))))
1275
1276 (defvar nnheader-directory-files-is-safe
1277   (or (eq system-type 'windows-nt)
1278       (not (featurep 'xemacs)))
1279   "If non-nil, Gnus believes `directory-files' is safe.
1280 It has been reported numerous times that `directory-files' fails with
1281 an alarming frequency on NFS mounted file systems. If it is nil,
1282 `nnheader-directory-files-safe' is used.")
1283
1284 (defun nnheader-directory-files-safe (&rest args)
1285   "Execute `directory-files' twice and returns the longer result."
1286   (let ((first (apply 'directory-files args))
1287         (second (apply 'directory-files args)))
1288     (if (> (length first) (length second))
1289         first
1290       second)))
1291
1292 (defun nnheader-directory-articles (dir)
1293   "Return a list of all article files in directory DIR."
1294   (mapcar 'nnheader-file-to-number
1295           (if nnheader-directory-files-is-safe
1296               (directory-files
1297                dir nil nnheader-numerical-short-files t)
1298             (nnheader-directory-files-safe
1299              dir nil nnheader-numerical-short-files t))))
1300
1301 (defun nnheader-article-to-file-alist (dir)
1302   "Return an alist of article/file pairs in DIR."
1303   (mapcar (lambda (file) (cons (nnheader-file-to-number file) file))
1304           (if nnheader-directory-files-is-safe
1305               (directory-files
1306                dir nil nnheader-numerical-short-files t)
1307             (nnheader-directory-files-safe
1308              dir nil nnheader-numerical-short-files t))))
1309
1310 (defun nnheader-fold-continuation-lines ()
1311   "Fold continuation lines in the current buffer."
1312   (nnheader-replace-regexp "\\(\r?\n[ \t]+\\)+" " "))
1313
1314 (defun nnheader-translate-file-chars (file &optional full)
1315   "Translate FILE into something that can be a file name.
1316 If FULL, translate everything."
1317   (if (null nnheader-file-name-translation-alist)
1318       ;; No translation is necessary.
1319       file
1320     (let* ((i 0)
1321            trans leaf path len)
1322       (if full
1323           ;; Do complete translation.
1324           (setq leaf (copy-sequence file)
1325                 path ""
1326                 i (if (and (< 1 (length leaf)) (eq ?: (aref leaf 1)))
1327                       2 0))
1328         ;; We translate -- but only the file name.  We leave the directory
1329         ;; alone.
1330         (if (and (featurep 'xemacs)
1331                  (memq system-type '(cygwin32 win32 w32 mswindows windows-nt
1332                                               cygwin)))
1333             ;; This is needed on NT and stuff, because
1334             ;; file-name-nondirectory is not enough to split
1335             ;; file names, containing ':', e.g.
1336             ;; "d:\\Work\\News\\nntp+news.fido7.ru:fido7.ru.gnu.SCORE"
1337             ;;
1338             ;; we are trying to correctly split such names:
1339             ;; "d:file.name" -> "a:" "file.name"
1340             ;; "aaa:bbb.ccc" -> "" "aaa:bbb.ccc"
1341             ;; "d:aaa\\bbb:ccc"   -> "d:aaa\\" "bbb:ccc"
1342             ;; etc.
1343             ;; to translate then only the file name part.
1344             (progn
1345               (setq leaf file
1346                     path "")
1347               (if (string-match "\\(^\\w:\\|[/\\]\\)\\([^/\\]+\\)$" file)
1348                   (setq leaf (substring file (match-beginning 2))
1349                         path (substring file 0 (match-beginning 2)))))
1350           ;; Emacs DTRT, says andrewi.
1351           (setq leaf (file-name-nondirectory file)
1352                 path (file-name-directory file))))
1353       (setq len (length leaf))
1354       (while (< i len)
1355         (when (setq trans (cdr (assq (aref leaf i)
1356                                      nnheader-file-name-translation-alist)))
1357           (aset leaf i trans))
1358         (incf i))
1359       (concat path leaf))))
1360
1361 (defun nnheader-report (backend &rest args)
1362   "Report an error from the BACKEND.
1363 The first string in ARGS can be a format string."
1364   (set (intern (format "%s-status-string" backend))
1365        (if (< (length args) 2)
1366            (car args)
1367          (apply 'format args)))
1368   nil)
1369
1370 (defun nnheader-get-report (backend)
1371   "Get the most recent report from BACKEND."
1372   (condition-case ()
1373       (nnheader-message 5 "%s" (symbol-value (intern (format "%s-status-string"
1374                                                              backend))))
1375     (error (nnheader-message 5 ""))))
1376
1377 (defun nnheader-insert (format &rest args)
1378   "Clear the communication buffer and insert FORMAT and ARGS into the buffer.
1379 If FORMAT isn't a format string, it and all ARGS will be inserted
1380 without formatting."
1381   (save-excursion
1382     (set-buffer nntp-server-buffer)
1383     (erase-buffer)
1384     (if (string-match "%" format)
1385         (insert (apply 'format format args))
1386       (apply 'insert format args))
1387     t))
1388
1389 (static-if (fboundp 'subst-char-in-string)
1390     (defsubst nnheader-replace-chars-in-string (string from to)
1391       (subst-char-in-string from to string))
1392   (defun nnheader-replace-chars-in-string (string from to)
1393     "Replace characters in STRING from FROM to TO."
1394     (let ((string (substring string 0)) ;Copy string.
1395           (len (length string))
1396           (idx 0))
1397       ;; Replace all occurrences of FROM with TO.
1398       (while (< idx len)
1399         (when (= (aref string idx) from)
1400           (aset string idx to))
1401         (setq idx (1+ idx)))
1402       string)))
1403
1404 (defun nnheader-replace-duplicate-chars-in-string (string from to)
1405   "Replace characters in STRING from FROM to TO."
1406   (let ((string (substring string 0))   ;Copy string.
1407         (len (length string))
1408         (idx 0) prev i)
1409     ;; Replace all occurrences of FROM with TO.
1410     (while (< idx len)
1411       (setq i (aref string idx))
1412       (when (and (eq prev from) (= i from))
1413         (aset string (1- idx) to)
1414         (aset string idx to))
1415       (setq prev i)
1416       (setq idx (1+ idx)))
1417     string))
1418
1419 (defun nnheader-file-to-group (file &optional top)
1420   "Return a group name based on FILE and TOP."
1421   (nnheader-replace-chars-in-string
1422    (if (not top)
1423        file
1424      (condition-case ()
1425          (substring (expand-file-name file)
1426                     (length
1427                      (expand-file-name
1428                       (file-name-as-directory top))))
1429        (error "")))
1430    nnheader-directory-separator-character ?.))
1431
1432 (defun nnheader-message (level &rest args)
1433   "Message if the Gnus backends are talkative."
1434   (if (or (not (numberp gnus-verbose-backends))
1435           (<= level gnus-verbose-backends))
1436       (apply 'message args)
1437     (apply 'format args)))
1438
1439 (defun nnheader-be-verbose (level)
1440   "Return whether the backends should be verbose on LEVEL."
1441   (or (not (numberp gnus-verbose-backends))
1442       (<= level gnus-verbose-backends)))
1443
1444 (defvar nnheader-pathname-coding-system 'binary
1445   "*Coding system for file name.")
1446
1447 (defun nnheader-group-pathname (group dir &optional file)
1448   "Make file name for GROUP."
1449   (concat
1450    (let ((dir (file-name-as-directory (expand-file-name dir))))
1451      ;; If this directory exists, we use it directly.
1452      (file-name-as-directory
1453       (if (file-directory-p (concat dir group))
1454           (expand-file-name group dir)
1455         ;; If not, we translate dots into slashes.
1456         (expand-file-name (encode-coding-string
1457                            (nnheader-replace-chars-in-string group ?. ?/)
1458                            nnheader-pathname-coding-system)
1459                           dir))))
1460    (cond ((null file) "")
1461          ((numberp file) (int-to-string file))
1462          (t file))))
1463
1464 (defun nnheader-concat (dir &rest files)
1465   "Concat DIR as directory to FILES."
1466   (apply 'concat (file-name-as-directory dir) files))
1467
1468 (defun nnheader-ms-strip-cr ()
1469   "Strip ^M from the end of all lines."
1470   (save-excursion
1471     (nnheader-remove-cr-followed-by-lf)))
1472
1473 (defun nnheader-file-size (file)
1474   "Return the file size of FILE or 0."
1475   (or (nth 7 (file-attributes file)) 0))
1476
1477 (defun nnheader-find-etc-directory (package &optional file first)
1478   "Go through `load-path' and find the \"../etc/PACKAGE\" directory.
1479 This function will look in the parent directory of each `load-path'
1480 entry, and look for the \"etc\" directory there.
1481 If FILE, find the \".../etc/PACKAGE\" file instead.
1482 If FIRST is non-nil, return the directory or the file found at the
1483 first.  Otherwise, find the newest one, though it may take a time."
1484   (let ((path load-path)
1485         dir results)
1486     ;; We try to find the dir by looking at the load path,
1487     ;; stripping away the last component and adding "etc/".
1488     (while path
1489       (if (and (car path)
1490                (file-exists-p
1491                 (setq dir (concat
1492                            (file-name-directory
1493                             (directory-file-name (car path)))
1494                            "etc/" package
1495                            (if file "" "/"))))
1496                (or file (file-directory-p dir)))
1497           (progn
1498             (or (member dir results)
1499                 (push dir results))
1500             (setq path (if first nil (cdr path))))
1501         (setq path (cdr path))))
1502     (if (or first (not (cdr results)))
1503         (car results)
1504       (car (sort results 'file-newer-than-file-p)))))
1505
1506 (eval-when-compile
1507   (defvar ange-ftp-path-format)
1508   (defvar efs-path-regexp))
1509 (defun nnheader-re-read-dir (path)
1510   "Re-read directory PATH if PATH is on a remote system."
1511   (if (and (fboundp 'efs-re-read-dir) (boundp 'efs-path-regexp))
1512       (when (string-match efs-path-regexp path)
1513         (efs-re-read-dir path))
1514     (when (and (fboundp 'ange-ftp-re-read-dir) (boundp 'ange-ftp-path-format))
1515       (when (string-match (car ange-ftp-path-format) path)
1516         (ange-ftp-re-read-dir path)))))
1517
1518 (defvar nnheader-file-coding-system 'raw-text
1519   "Coding system used in file backends of Gnus.")
1520
1521 (defun nnheader-insert-file-contents (filename &optional visit beg end replace)
1522   "Like `insert-file-contents', q.v., but only reads in the file.
1523 A buffer may be modified in several ways after reading into the buffer due
1524 to advanced Emacs features, such as file-name-handlers, format decoding,
1525 find-file-hooks, etc.
1526   This function ensures that none of these modifications will take place."
1527   (let ((format-alist nil)
1528         (auto-mode-alist (nnheader-auto-mode-alist))
1529         (default-major-mode 'fundamental-mode)
1530         (enable-local-variables nil)
1531         (after-insert-file-functions nil)
1532         (enable-local-eval nil)
1533         (find-file-hooks nil))
1534     (insert-file-contents-as-coding-system
1535      nnheader-file-coding-system filename visit beg end replace)))
1536
1537 (defun nnheader-insert-nov-file (file first)
1538   (let ((size (nth 7 (file-attributes file)))
1539         (cutoff (* 32 1024)))
1540     (when size
1541       (if (< size cutoff)
1542           ;; If the file is small, we just load it.
1543           (nnheader-insert-file-contents file)
1544         ;; We start on the assumption that FIRST is pretty recent.  If
1545         ;; not, we just insert the rest of the file as well.
1546         (let (current)
1547           (nnheader-insert-file-contents file nil (- size cutoff) size)
1548           (goto-char (point-min))
1549           (delete-region (point) (or (search-forward "\n" nil 'move) (point)))
1550           (setq current (ignore-errors (read (current-buffer))))
1551           (if (and (numberp current)
1552                    (< current first))
1553               t
1554             (delete-region (point-min) (point-max))
1555             (nnheader-insert-file-contents file)))))))
1556
1557 (defun nnheader-find-file-noselect (&rest args)
1558   (let ((format-alist nil)
1559         (auto-mode-alist (nnheader-auto-mode-alist))
1560         (default-major-mode 'fundamental-mode)
1561         (enable-local-variables nil)
1562         (after-insert-file-functions nil)
1563         (enable-local-eval nil)
1564         (find-file-hooks nil))
1565     (apply 'find-file-noselect-as-coding-system
1566            nnheader-file-coding-system args)))
1567
1568 (defun nnheader-auto-mode-alist ()
1569   "Return an `auto-mode-alist' with only the .gz (etc) thingies."
1570   (let ((alist auto-mode-alist)
1571         out)
1572     (while alist
1573       (when (listp (cdar alist))
1574         (push (car alist) out))
1575       (pop alist))
1576     (nreverse out)))
1577
1578 (defun nnheader-directory-regular-files (dir)
1579   "Return a list of all regular files in DIR."
1580   (let ((files (directory-files dir t))
1581         out)
1582     (while files
1583       (when (file-regular-p (car files))
1584         (push (car files) out))
1585       (pop files))
1586     (nreverse out)))
1587
1588 (defun nnheader-directory-files (&rest args)
1589   "Same as `directory-files', but prune \".\" and \"..\"."
1590   (let ((files (apply 'directory-files args))
1591         out)
1592     (while files
1593       (unless (member (file-name-nondirectory (car files)) '("." ".."))
1594         (push (car files) out))
1595       (pop files))
1596     (nreverse out)))
1597
1598 (defmacro nnheader-skeleton-replace (from &optional to regexp)
1599   `(let ((new (generate-new-buffer " *nnheader replace*"))
1600          (cur (current-buffer))
1601          (start (point-min)))
1602      (set-buffer cur)
1603      (goto-char (point-min))
1604      (while (,(if regexp 're-search-forward 'search-forward)
1605              ,from nil t)
1606        (insert-buffer-substring
1607         cur start (prog1 (match-beginning 0) (set-buffer new)))
1608        (goto-char (point-max))
1609        ,(when to `(insert ,to))
1610        (set-buffer cur)
1611        (setq start (point)))
1612      (insert-buffer-substring
1613       cur start (prog1 (point-max) (set-buffer new)))
1614      (copy-to-buffer cur (point-min) (point-max))
1615      (kill-buffer (current-buffer))
1616      (set-buffer cur)))
1617
1618 (defun nnheader-replace-string (from to)
1619   "Do a fast replacement of FROM to TO from point to `point-max'."
1620   (nnheader-skeleton-replace from to))
1621
1622 (defun nnheader-replace-regexp (from to)
1623   "Do a fast regexp replacement of FROM to TO from point to `point-max'."
1624   (nnheader-skeleton-replace from to t))
1625
1626 (defun nnheader-strip-cr ()
1627   "Strip all \r's from the current buffer."
1628   (nnheader-skeleton-replace "\r"))
1629
1630 (defalias 'nnheader-cancel-timer 'cancel-timer)
1631 (defalias 'nnheader-cancel-function-timers 'cancel-function-timers)
1632 (defalias 'nnheader-string-as-multibyte 'string-as-multibyte)
1633
1634 (defun nnheader-Y-or-n-p (prompt)
1635   "Ask user a \"Y/n\" question. Return t if answer is neither \"n\", \"N\" nor \"C-g\"."
1636   (let ((cursor-in-echo-area t)
1637         (echo-keystrokes 0)
1638         (inhibit-quit t)
1639         ans)
1640     (let (message-log-max)
1641       (while (not (memq ans '(?\  ?N ?Y ?\C-g ?\e ?\n ?\r ?n ?y)))
1642         (message "%s(Y/n) " prompt)
1643         (setq ans (read-char-exclusive))))
1644     (if (memq ans '(?\C-g ?N ?n))
1645         (progn
1646           (message "%s(Y/n) No" prompt)
1647           nil)
1648       (message "%s(Y/n) Yes" prompt)
1649       t)))
1650
1651 (defun-maybe shell-command-to-string (command)
1652   "Execute shell command COMMAND and return its output as a string."
1653   (with-output-to-string
1654     (with-current-buffer
1655         standard-output
1656       (call-process shell-file-name nil t nil shell-command-switch command))))
1657
1658 (defun nnheader-accept-process-output (process)
1659   (accept-process-output
1660    process
1661    (truncate nnheader-read-timeout)
1662    (truncate (* (- nnheader-read-timeout
1663                    (truncate nnheader-read-timeout))
1664                 1000))))
1665
1666 (when (featurep 'xemacs)
1667   (require 'nnheaderxm))
1668
1669 (run-hooks 'nnheader-load-hook)
1670
1671 (provide 'nnheader)
1672
1673 ;;; nnheader.el ends here