* gnus-vers.el (gnus-revision-number): Increment to 01.
[elisp/gnus.git-] / lisp / gnus-agent.el
index 852a525..b864b27 100644 (file)
@@ -1,5 +1,6 @@
 ;;; gnus-agent.el --- unplugged support for Semi-gnus
-;; Copyright (C) 1997, 1998, 1999, 2000 Free Software Foundation, Inc.
+;; Copyright (C) 1997, 1998, 1999, 2000, 2001, 2002
+;;        Free Software Foundation, Inc.
 
 ;; Author: Lars Magne Ingebrigtsen <larsi@gnus.org>
 ;;     Tatsuya Ichikawa <t-ichi@po.shiojiri.ne.jp>
 (require 'nnvirtual)
 (require 'gnus-sum)
 (require 'gnus-score)
+(require 'gnus-srvr)
 (eval-when-compile
   (if (featurep 'xemacs)
       (require 'itimer)
     (require 'timer))
   (require 'gnus-group))
 
+(eval-and-compile
+  (autoload 'gnus-server-update-server "gnus-srvr"))
+
 (defcustom gnus-agent-directory (nnheader-concat gnus-directory "agent/")
   "Where the Gnus agent will store its files."
   :group 'gnus-agent
   :group 'gnus-agent
   :type 'hook)
 
+(defcustom gnus-agent-fetched-hook nil
+  "Hook run after finishing fetching articles."
+  :group 'gnus-agent
+  :type 'hook)
+
 (defcustom gnus-agent-handle-level gnus-level-subscribed
   "Groups on levels higher than this variable will be ignored by the Agent."
   :group 'gnus-agent
   :type 'integer)
 
 (defcustom gnus-agent-expire-days 7
-  "Read articles older than this will be expired."
+  "Read articles older than this will be expired.
+This can also be a list of regexp/day pairs.  The regexps will
+be matched against group names."
   :group 'gnus-agent
   :type 'integer)
 
@@ -74,18 +86,31 @@ If nil, only read articles will be expired."
   :group 'gnus-agent
   :type 'hook)
 
+;; Extracted from gnus-xmas-redefine in order to preserve user settings
+(when (featurep 'xemacs)
+  (add-hook 'gnus-agent-group-mode-hook 'gnus-xmas-agent-group-menu-add))
+
 (defcustom gnus-agent-summary-mode-hook nil
   "Hook run in Agent summary minor modes."
   :group 'gnus-agent
   :type 'hook)
 
+;; Extracted from gnus-xmas-redefine in order to preserve user settings
+(when (featurep 'xemacs)
+  (add-hook 'gnus-agent-summary-mode-hook 'gnus-xmas-agent-summary-menu-add))
+
 (defcustom gnus-agent-server-mode-hook nil
   "Hook run in Agent summary minor modes."
   :group 'gnus-agent
   :type 'hook)
 
+;; Extracted from gnus-xmas-redefine in order to preserve user settings
+(when (featurep 'xemacs)
+  (add-hook 'gnus-agent-server-mode-hook 'gnus-xmas-agent-server-menu-add))
+
 (defcustom gnus-agent-confirmation-function 'y-or-n-p
   "Function to confirm when error happens."
+  :version "21.1"
   :group 'gnus-agent
   :type 'function)
 
@@ -100,18 +125,39 @@ fetched will be limited to it. If not a positive integer, never consider it."
 (defcustom gnus-agent-synchronize-flags 'ask
   "Indicate if flags are synchronized when you plug in.
 If this is `ask' the hook will query the user."
+  :version "21.1"
   :type '(choice (const :tag "Always" t)
                 (const :tag "Never" nil)
                 (const :tag "Ask" ask))
   :group 'gnus-agent)
 
+(defcustom gnus-agent-go-online 'ask
+  "Indicate if offline servers go online when you plug in.
+If this is `ask' the hook will query the user."
+  :version "21.1"
+  :type '(choice (const :tag "Always" t)
+                (const :tag "Never" nil)
+                (const :tag "Ask" ask))
+  :group 'gnus-agent)
+
+(defcustom gnus-agent-mark-unread-after-downloaded t
+  "Indicate whether to mark articles unread after downloaded."
+  :version "21.1"
+  :type 'boolean
+  :group 'gnus-agent)
+
+(defcustom gnus-agent-download-marks '(download)
+  "Marks for downloading."
+  :version "21.1"
+  :type '(repeat (symbol :tag "Mark"))
+  :group 'gnus-agent)
+
 ;;; Internal variables
 
 (defvar gnus-agent-history-buffers nil)
 (defvar gnus-agent-buffer-alist nil)
 (defvar gnus-agent-article-alist nil)
 (defvar gnus-agent-group-alist nil)
-(defvar gnus-agent-covered-methods nil)
 (defvar gnus-category-alist nil)
 (defvar gnus-agent-current-history nil)
 (defvar gnus-agent-overview-buffer nil)
@@ -121,6 +167,7 @@ If this is `ask' the hook will query the user."
 (defvar gnus-agent-file-name nil)
 (defvar gnus-agent-send-mail-function nil)
 (defvar gnus-agent-file-coding-system 'raw-text)
+(defvar gnus-agent-file-loading-cache nil)
 
 ;; Dynamic variables
 (defvar gnus-headers)
@@ -182,7 +229,9 @@ If this is `ask' the hook will query the user."
 
 (defun gnus-agent-lib-file (file)
   "The full path of the Gnus agent library FILE."
-  (concat (gnus-agent-directory) "agent.lib/" file))
+  (expand-file-name file
+                   (file-name-as-directory
+                    (expand-file-name "agent.lib" (gnus-agent-directory)))))
 
 ;;; Fetching setup functions.
 
@@ -252,9 +301,10 @@ If this is `ask' the hook will query the user."
   "Jj" gnus-agent-toggle-plugged
   "Js" gnus-agent-fetch-session
   "JY" gnus-agent-synchronize-flags
-  "JS" gnus-group-send-drafts
+  "JS" gnus-group-send-queue
   "Ja" gnus-agent-add-group
-  "Jr" gnus-agent-remove-group)
+  "Jr" gnus-agent-remove-group
+  "Jo" gnus-agent-toggle-group-plugged)
 
 (defun gnus-agent-group-make-menu-bar ()
   (unless (boundp 'gnus-agent-group-menu)
@@ -262,8 +312,9 @@ If this is `ask' the hook will query the user."
      gnus-agent-group-menu gnus-agent-group-mode-map ""
      '("Agent"
        ["Toggle plugged" gnus-agent-toggle-plugged t]
+       ["Toggle group plugged" gnus-agent-toggle-group-plugged t]
        ["List categories" gnus-enter-category-buffer t]
-       ["Send drafts" gnus-group-send-drafts gnus-plugged]
+       ["Send queue" gnus-group-send-queue gnus-plugged]
        ("Fetch"
        ["All" gnus-agent-fetch-session gnus-plugged]
        ["Group" gnus-agent-fetch-group gnus-plugged])))))
@@ -271,6 +322,7 @@ If this is `ask' the hook will query the user."
 (defvar gnus-agent-summary-mode-map (make-sparse-keymap))
 (gnus-define-keys gnus-agent-summary-mode-map
   "Jj" gnus-agent-toggle-plugged
+  "Ju" gnus-agent-summary-fetch-group
   "J#" gnus-agent-mark-article
   "J\M-#" gnus-agent-unmark-article
   "@" gnus-agent-toggle-mark
@@ -285,6 +337,7 @@ If this is `ask' the hook will query the user."
        ["Mark as downloadable" gnus-agent-mark-article t]
        ["Unmark as downloadable" gnus-agent-unmark-article t]
        ["Toggle mark" gnus-agent-toggle-mark t]
+       ["Fetch downloadable" gnus-agent-summary-fetch-group t]
        ["Catchup undownloaded" gnus-agent-catchup t]))))
 
 (defvar gnus-agent-server-mode-map (make-sparse-keymap))
@@ -302,19 +355,33 @@ If this is `ask' the hook will query the user."
        ["Add" gnus-agent-add-server t]
        ["Remove" gnus-agent-remove-server t]))))
 
+(defun gnus-agent-make-mode-line-string (string mouse-button mouse-func)
+  (if (and (fboundp 'propertize)
+          (fboundp 'make-mode-line-mouse-map))
+      (propertize string 'local-map
+                 (make-mode-line-mouse-map mouse-button mouse-func))
+    string))
+
 (defun gnus-agent-toggle-plugged (plugged)
   "Toggle whether Gnus is unplugged or not."
   (interactive (list (not gnus-plugged)))
   (if plugged
       (progn
        (setq gnus-plugged plugged)
-       (gnus-agent-possibly-synchronize-flags)
        (gnus-run-hooks 'gnus-agent-plugged-hook)
-       (setcar (cdr gnus-agent-mode-status) " Plugged"))
+       (setcar (cdr gnus-agent-mode-status)
+               (gnus-agent-make-mode-line-string " Plugged"
+                                                 'mouse-2
+                                                 'gnus-agent-toggle-plugged))
+       (gnus-agent-go-online gnus-agent-go-online)
+       (gnus-agent-possibly-synchronize-flags))
     (gnus-agent-close-connections)
     (setq gnus-plugged plugged)
     (gnus-run-hooks 'gnus-agent-unplugged-hook)
-    (setcar (cdr gnus-agent-mode-status) " Unplugged"))
+    (setcar (cdr gnus-agent-mode-status)
+           (gnus-agent-make-mode-line-string " Unplugged"
+                                             'mouse-2
+                                             'gnus-agent-toggle-plugged)))
   (force-mode-line-update))
 
 (defun gnus-agent-close-connections ()
@@ -338,6 +405,13 @@ If this is `ask' the hook will query the user."
   (gnus))
 
 ;;;###autoload
+(defun gnus-slave-unplugged (&optional arg)
+  "Read news as a slave unplugged."
+  (interactive "P")
+  (setq gnus-plugged nil)
+  (gnus arg nil 'slave))
+
+;;;###autoload
 (defun gnus-agentize ()
   "Allow Gnus to be an offline newsreader.
 The normal usage of this command is to put the following as the
@@ -345,15 +419,17 @@ last form in your `.gnus.el' file:
 
 \(gnus-agentize)
 
-This will modify the `gnus-before-startup-hook', `gnus-post-method',
-and `message-send-mail-function' variables, and install the Gnus
-agent minor mode in all Gnus buffers."
+This will modify the `gnus-setup-news-hook', and
+`message-send-mail-real-function' variables, and install the Gnus agent
+minor mode in all Gnus buffers."
   (interactive)
   (gnus-open-agent)
   (add-hook 'gnus-setup-news-hook 'gnus-agent-queue-setup)
   (unless gnus-agent-send-mail-function
-    (setq gnus-agent-send-mail-function message-send-mail-function
-         message-send-mail-function 'gnus-agent-send-mail))
+    (setq gnus-agent-send-mail-function (or
+                                        message-send-mail-real-function
+                                        message-send-mail-function)
+         message-send-mail-real-function 'gnus-agent-send-mail))
   (unless gnus-agent-covered-methods
     (setq gnus-agent-covered-methods (list gnus-select-method))))
 
@@ -378,7 +454,7 @@ agent minor mode in all Gnus buffers."
 
 (defun gnus-agent-insert-meta-information (type &optional method)
   "Insert meta-information into the message that says how it's to be posted.
-TYPE can be either `mail' or `news'.  If the latter METHOD can
+TYPE can be either `mail' or `news'.  If the latter, then METHOD can
 be a select method."
   (save-excursion
     (message-remove-header gnus-agent-meta-information-header)
@@ -408,8 +484,7 @@ be a select method."
                                   gcc " ,")))))
           covered)
       (while (and (not covered) methods)
-       (setq covered
-             (member (car methods) gnus-agent-covered-methods)
+       (setq covered (gnus-agent-method-p (car methods))
              methods (cdr methods)))
       covered)))
 
@@ -441,14 +516,20 @@ be a select method."
 (defun gnus-agent-fetch-group (group)
   "Put all new articles in GROUP into the Agent."
   (interactive (list (gnus-group-group-name)))
-  (unless gnus-plugged
-    (error "Groups can't be fetched when Gnus is unplugged"))
-  (unless group
-    (error "No group on the current line"))
-  (let ((gnus-command-method (gnus-find-method-for-group group)))
-    (gnus-agent-with-fetch
-      (gnus-agent-fetch-group-1 group gnus-command-method)
-      (gnus-message 5 "Fetching %s...done" group))))
+  (let ((state gnus-plugged))
+    (unwind-protect
+       (progn
+         (unless group
+           (error "No group on the current line"))
+         (unless state
+           (gnus-agent-toggle-plugged gnus-plugged))
+         (let ((gnus-command-method (gnus-find-method-for-group group)))
+           (gnus-agent-with-fetch
+             (gnus-agent-fetch-group-1 group gnus-command-method)
+             (gnus-message 5 "Fetching %s...done" group))))
+      (when (and (not state)
+                gnus-plugged)
+       (gnus-agent-toggle-plugged gnus-plugged)))))
 
 (defun gnus-agent-add-group (category arg)
   "Add the current group to an agent category."
@@ -535,9 +616,10 @@ be a select method."
   (unless server
     (error "No server on the current line"))
   (let ((method (gnus-server-get-method nil (gnus-server-server-name))))
-    (when (member method gnus-agent-covered-methods)
+    (when (gnus-agent-method-p method)
       (error "Server already in the agent program"))
     (push method gnus-agent-covered-methods)
+    (gnus-server-update-server server)
     (gnus-agent-write-servers)
     (message "Entered %s into the Agent" server)))
 
@@ -547,18 +629,23 @@ be a select method."
   (unless server
     (error "No server on the current line"))
   (let ((method (gnus-server-get-method nil (gnus-server-server-name))))
-    (unless (member method gnus-agent-covered-methods)
+    (unless (gnus-agent-method-p method)
       (error "Server not in the agent program"))
     (setq gnus-agent-covered-methods
          (delete method gnus-agent-covered-methods))
+    (gnus-server-update-server server)
     (gnus-agent-write-servers)
     (message "Removed %s from the agent" server)))
 
 (defun gnus-agent-read-servers ()
   "Read the alist of covered servers."
   (setq gnus-agent-covered-methods
-       (gnus-agent-read-file
-        (nnheader-concat gnus-agent-directory "lib/servers"))))
+       (mapcar (lambda (m)
+                 (gnus-server-get-method
+                  nil
+                  (or m "native")))
+               (gnus-agent-read-file
+                (nnheader-concat gnus-agent-directory "lib/servers")))))
 
 (defun gnus-agent-write-servers ()
   "Write the alist of covered servers."
@@ -568,7 +655,8 @@ be a select method."
        (file-name-coding-system nnmail-pathname-coding-system)
        (pathname-coding-system nnmail-pathname-coding-system))
     (with-temp-file (nnheader-concat gnus-agent-directory "lib/servers")
-      (prin1 gnus-agent-covered-methods (current-buffer)))))
+      (prin1 (mapcar 'gnus-method-simplify gnus-agent-covered-methods)
+            (current-buffer)))))
 
 ;;;
 ;;; Summary commands
@@ -621,7 +709,8 @@ the actual number of articles toggled is returned."
          (push article gnus-newsgroup-undownloaded))
       (setq gnus-newsgroup-undownloaded
            (delq article gnus-newsgroup-undownloaded))
-      (push article gnus-newsgroup-downloadable))
+      (setq gnus-newsgroup-downloadable
+           (gnus-add-to-sorted-list gnus-newsgroup-downloadable article)))
     (gnus-summary-update-mark
      (if unmark gnus-undownloaded-mark gnus-downloadable-mark)
      'unread)))
@@ -629,27 +718,31 @@ the actual number of articles toggled is returned."
 (defun gnus-agent-get-undownloaded-list ()
   "Mark all unfetched articles as read."
   (let ((gnus-command-method (gnus-find-method-for-group gnus-newsgroup-name)))
-    (when (and (not gnus-plugged)
+    (when (and (not (gnus-online gnus-command-method))
               (gnus-agent-method-p gnus-command-method))
       (gnus-agent-load-alist gnus-newsgroup-name)
       ;; First mark all undownloaded articles as undownloaded.
-      (let ((articles (append gnus-newsgroup-unreads
-                             gnus-newsgroup-marked
-                             gnus-newsgroup-dormant))
-           article)
+      (let ((articles (mapcar (lambda (header) (mail-header-number header))
+                             gnus-newsgroup-headers))
+           (agent-articles gnus-agent-article-alist)
+           candidates article)
        (while (setq article (pop articles))
-         (unless (or (cdr (assq article gnus-agent-article-alist))
-                     (memq article gnus-newsgroup-downloadable)
+         (while (and agent-articles
+                     (< (caar agent-articles) article))
+           (setq agent-articles (cdr agent-articles)))
+         (when (or (not (cdar agent-articles))
+                   (not (= (caar agent-articles) article)))
+           (push article candidates)))
+       (dolist (article candidates)
+         (unless (or (memq article gnus-newsgroup-downloadable)
                      (memq article gnus-newsgroup-cached))
            (push article gnus-newsgroup-undownloaded))))
       ;; Then mark downloaded downloadable as not-downloadable,
       ;; if you get my drift.
-      (let ((articles gnus-newsgroup-downloadable)
-           article)
-       (while (setq article (pop articles))
-         (when (cdr (assq article gnus-agent-article-alist))
-           (setq gnus-newsgroup-downloadable
-                 (delq article gnus-newsgroup-downloadable))))))))
+      (dolist (article gnus-newsgroup-downloadable)
+       (when (cdr (assq article gnus-agent-article-alist))
+         (setq gnus-newsgroup-downloadable
+               (delq article gnus-newsgroup-downloadable)))))))
 
 (defun gnus-agent-catchup ()
   "Mark all undownloaded articles as read."
@@ -660,6 +753,30 @@ the actual number of articles toggled is returned."
        (pop gnus-newsgroup-undownloaded) gnus-catchup-mark)))
   (gnus-summary-position-point))
 
+(defun gnus-agent-summary-fetch-group ()
+  "Fetch the downloadable articles in the group."
+  (interactive)
+  (let ((articles gnus-newsgroup-downloadable)
+       (gnus-command-method (gnus-find-method-for-group gnus-newsgroup-name))
+       (state gnus-plugged))
+    (unwind-protect
+       (progn
+         (unless state
+           (gnus-agent-toggle-plugged t))
+         (unless articles
+           (error "No articles to download"))
+         (gnus-agent-with-fetch
+           (gnus-agent-fetch-articles gnus-newsgroup-name articles))
+         (save-excursion
+           (dolist (article articles)
+             (setq gnus-newsgroup-downloadable
+                   (delq article gnus-newsgroup-downloadable))
+             (if gnus-agent-mark-unread-after-downloaded
+                 (gnus-summary-mark-article article gnus-unread-mark)))))
+      (when (and (not state)
+                gnus-plugged)
+       (gnus-agent-toggle-plugged nil)))))
+
 ;;;
 ;;; Internal functions
 ;;;
@@ -692,13 +809,19 @@ the actual number of articles toggled is returned."
         (when (and sym (boundp sym))
           (if (and (boundp (setq osym (intern (symbol-name sym) orig)))
                    (setq elem (symbol-value osym)))
-              (setcdr elem (cdr (symbol-value sym)))
+              (progn
+                (if (and (integerp (car (symbol-value sym)))
+                         (> (car elem) (car (symbol-value sym))))
+                    (setcar elem (car (symbol-value sym))))
+                (if (integerp (cdr (symbol-value sym)))
+                    (setcdr elem (cdr (symbol-value sym)))))
             (set (intern (symbol-name sym) orig) (symbol-value sym)))))
        new))
     (gnus-make-directory (file-name-directory file))
-    ;; The hashtable contains real names of groups,  no more prefix
-    ;; removing, so set `full' to `t'.
-    (gnus-write-active-file file orig t)))
+    (let ((nnmail-active-file-coding-system gnus-agent-file-coding-system))
+      ;; The hashtable contains real names of groups,  no more prefix
+      ;; removing, so set `full' to `t'.
+      (gnus-write-active-file file orig t))))
 
 (defun gnus-agent-save-groups (method)
   (gnus-agent-save-active-1 method 'gnus-groups-to-gnus-format))
@@ -711,7 +834,7 @@ the actual number of articles toggled is returned."
           (file-name-coding-system nnmail-pathname-coding-system)
           (pathname-coding-system nnmail-pathname-coding-system)
           (file (gnus-agent-lib-file "active"))
-          oactive)
+          oactive-min)
       (gnus-make-directory (file-name-directory file))
       (with-temp-file file
        (when (file-exists-p file)
@@ -720,16 +843,12 @@ the actual number of articles toggled is returned."
        (when (re-search-forward
               (concat "^" (regexp-quote group) " ") nil t)
          (save-excursion
-           (save-restriction
-             (narrow-to-region (match-beginning 0)
-                               (progn
-                                 (forward-line 1)
-                                 (point)))
-             (setq oactive (car (nnmail-parse-active)))))
+           (read (current-buffer))                      ;; max
+           (setq oactive-min (read (current-buffer))))  ;; min
          (gnus-delete-line))
        (insert (format "%S %d %d y\n" (intern group)
                        (cdr active)
-                       (or (car oactive) (car active))))
+                       (or oactive-min (car active))))
        (goto-char (point-max))
        (while (search-backward "\\." nil t)
          (delete-char 1))))))
@@ -749,17 +868,11 @@ the actual number of articles toggled is returned."
 
 \f
 
-(defun gnus-agent-method-p (method)
-  "Say whether METHOD is covered by the agent."
-  (member method gnus-agent-covered-methods))
-
 (defun gnus-agent-get-function (method)
-  (if (and (not gnus-plugged)
-          (gnus-agent-method-p method))
-      (progn
-       (require 'nnagent)
-       'nnagent)
-    (car method)))
+  (if (gnus-online method)
+      (car method)
+    (require 'nnagent)
+    'nnagent))
 
 ;;; History functions
 
@@ -872,32 +985,33 @@ the actual number of articles toggled is returned."
          (while pos
            (narrow-to-region (cdar pos) (or (cdadr pos) (point-max)))
            (goto-char (point-min))
-           (when (search-forward "\n\n" nil t)
-             (when (search-backward "\nXrefs: " nil t)
-               ;; Handle crossposting.
-               (skip-chars-forward "^ ")
-               (skip-chars-forward " ")
-               (setq crosses nil)
-               (while (looking-at "\\([^: \n]+\\):\\([0-9]+\\) +")
-                 (push (cons (buffer-substring (match-beginning 1)
-                                               (match-end 1))
-                             (buffer-substring (match-beginning 2)
-                                               (match-end 2)))
-                       crosses)
-                 (goto-char (match-end 0)))
-               (gnus-agent-crosspost crosses (caar pos))))
-           (goto-char (point-min))
-           (if (not (re-search-forward "^Message-ID: *<\\([^>\n]+\\)>" nil t))
-               (setq id "No-Message-ID-in-article")
-             (setq id (buffer-substring (match-beginning 1) (match-end 1))))
-           (write-region-as-coding-system
-            gnus-agent-file-coding-system
-            (point-min) (point-max)
-            (concat dir (number-to-string (caar pos))) nil 'silent)
-           (when (setq elem (assq (caar pos) gnus-agent-article-alist))
-             (setcdr elem t))
-           (gnus-agent-enter-history
-            id (or crosses (list (cons group (caar pos)))) date)
+           (unless (eobp)  ;; Don't save empty articles.
+             (when (search-forward "\n\n" nil t)
+               (when (search-backward "\nXrefs: " nil t)
+                 ;; Handle cross posting.
+                 (skip-chars-forward "^ ")
+                 (skip-chars-forward " ")
+                 (setq crosses nil)
+                 (while (looking-at "\\([^: \n]+\\):\\([0-9]+\\) +")
+                   (push (cons (buffer-substring (match-beginning 1)
+                                                 (match-end 1))
+                               (buffer-substring (match-beginning 2)
+                                                 (match-end 2)))
+                         crosses)
+                   (goto-char (match-end 0)))
+                 (gnus-agent-crosspost crosses (caar pos))))
+             (goto-char (point-min))
+             (if (not (re-search-forward
+                       "^Message-ID: *<\\([^>\n]+\\)>" nil t))
+                 (setq id "No-Message-ID-in-article")
+               (setq id (buffer-substring (match-beginning 1) (match-end 1))))
+             (write-region-as-coding-system
+              gnus-agent-file-coding-system (point-min) (point-max)
+              (concat dir (number-to-string (caar pos))) nil 'silent)
+             (when (setq elem (assq (caar pos) gnus-agent-article-alist))
+               (setcdr elem t))
+             (gnus-agent-enter-history
+              id (or crosses (list (cons group (caar pos)))) date))
            (widen)
            (pop pos)))
        (gnus-agent-save-alist group)))))
@@ -951,7 +1065,7 @@ the actual number of articles toggled is returned."
         (len (length articles))
         (gnus-decode-encoded-word-function 'identity)
         (file (gnus-agent-article-name ".overview" group))
-        i)
+        i gnus-agent-cache)
     ;; Check the number of articles is not too large.
     (when (and (integerp gnus-agent-large-newsgroup)
               (< 0 gnus-agent-large-newsgroup))
@@ -959,14 +1073,14 @@ the actual number of articles toggled is returned."
           (setq articles (nthcdr i articles))))
     ;; add article with marks to list of article headers we want to fetch.
     (dolist (arts (gnus-info-marks (gnus-get-info group)))
-      (setq articles (gnus-union (gnus-uncompress-sequence (cdr arts))
-                                articles)))
-    (setq articles (sort articles '<))
+      (unless (memq (car arts) '(seen recent))
+       (setq articles (gnus-range-add articles (cdr arts)))))
+    (setq articles (sort (gnus-uncompress-sequence articles) '<))
     ;; Remove known articles.
     (when (gnus-agent-load-alist group)
-      (setq articles (gnus-sorted-intersection
+      (setq articles (gnus-list-range-intersection
                      articles
-                     (gnus-uncompress-range
+                     (list
                       (cons (1+ (caar (last gnus-agent-article-alist)))
                             (cdr (gnus-active group)))))))
     ;; Fetch them.
@@ -993,79 +1107,99 @@ the actual number of articles toggled is returned."
        articles))))
 
 (defsubst gnus-agent-copy-nov-line (article)
-  (let (b e)
+  (let (art b e)
     (set-buffer gnus-agent-overview-buffer)
-    (setq b (point))
-    (if (eq article (read (current-buffer)))
-       (setq e (progn (forward-line 1) (point)))
-      (progn
-       (beginning-of-line)
-       (setq e b)))
-    (set-buffer nntp-server-buffer)
-    (insert-buffer-substring gnus-agent-overview-buffer b e)))
+    (while (and (not (eobp))
+               (< (setq art (read (current-buffer))) article))
+      (forward-line 1))
+    (beginning-of-line)
+    (if (or (eobp)
+           (not (eq article art)))
+       (set-buffer nntp-server-buffer)
+      (setq b (point))
+      (setq e (progn (forward-line 1) (point)))
+      (set-buffer nntp-server-buffer)
+      (insert-buffer-substring gnus-agent-overview-buffer b e))))
 
 (defun gnus-agent-braid-nov (group articles file)
-  (set-buffer gnus-agent-overview-buffer)
-  (goto-char (point-min))
-  (set-buffer nntp-server-buffer)
-  (erase-buffer)
-  (nnheader-insert-file-contents file)
-  (goto-char (point-max))
-  (if (or (= (point-min) (point-max))
-         (progn
-           (forward-line -1)
-           (< (read (current-buffer)) (car articles))))
-      ;; We have only headers that are after the older headers,
-      ;; so we just append them.
-      (progn
-       (goto-char (point-max))
-       (insert-buffer-substring gnus-agent-overview-buffer))
-    ;; We do it the hard way.
-    (nnheader-find-nov-line (car articles))
-    (gnus-agent-copy-nov-line (car articles))
-    (pop articles)
-    (while (and articles
-               (not (eobp)))
-      (while (and (not (eobp))
-                 (< (read (current-buffer)) (car articles)))
-       (forward-line 1))
-      (beginning-of-line)
-      (unless (eobp)
-       (gnus-agent-copy-nov-line (car articles))
-       (setq articles (cdr articles))))
+  (let (start last)
+    (set-buffer gnus-agent-overview-buffer)
+    (goto-char (point-min))
+    (set-buffer nntp-server-buffer)
+    (erase-buffer)
+    (nnheader-insert-file-contents file)
+    (goto-char (point-max))
+    (unless (or (= (point-min) (point-max))
+               (progn
+                 (forward-line -1)
+                 (< (setq last (read (current-buffer))) (car articles))))
+      ;; We do it the hard way.
+      (nnheader-find-nov-line (car articles))
+      (gnus-agent-copy-nov-line (pop articles))
+      (while (and articles
+                 (not (eobp)))
+       (while (and (not (eobp))
+                   (< (read (current-buffer)) (car articles)))
+         (forward-line 1))
+       (beginning-of-line)
+       (unless (eobp)
+         (gnus-agent-copy-nov-line (pop articles)))))
+    ;; Copy the rest lines
+    (set-buffer nntp-server-buffer)
+    (goto-char (point-max))
     (when articles
-      (let (b e)
+      (when last
        (set-buffer gnus-agent-overview-buffer)
-       (setq b (point)
-             e (point-max))
-       (set-buffer nntp-server-buffer)
-       (insert-buffer-substring gnus-agent-overview-buffer b e)))))
+       (while (and (not (eobp))
+                   (<= (read (current-buffer)) last))
+         (forward-line 1))
+       (beginning-of-line)
+       (setq start (point))
+       (set-buffer nntp-server-buffer))
+      (insert-buffer-substring gnus-agent-overview-buffer start))))
 
 (defun gnus-agent-load-alist (group &optional dir)
   "Load the article-state alist for GROUP."
-  (setq gnus-agent-article-alist
-       (gnus-agent-read-file
-        (if dir
-            (concat dir ".agentview")
-          (gnus-agent-article-name ".agentview" group)))))
+  (let ((file))
+    (setq gnus-agent-article-alist
+         (gnus-cache-file-contents
+          (if dir
+              (expand-file-name ".agentview" dir)
+            (gnus-agent-article-name ".agentview" group))
+          'gnus-agent-file-loading-cache
+          'gnus-agent-read-file))))
 
 (defun gnus-agent-save-alist (group &optional articles state dir)
   "Save the article-state alist for GROUP."
-  (let ((file-name-coding-system nnmail-pathname-coding-system)
-       (pathname-coding-system nnmail-pathname-coding-system))
+  (let* ((file-name-coding-system nnmail-pathname-coding-system)
+        (pathname-coding-system nnmail-pathname-coding-system)
+        (prev (cons nil gnus-agent-article-alist))
+        (all prev)
+        print-level print-length item article)
+    (while (setq article (pop articles))
+      (while (and (cdr prev)
+                 (< (caadr prev) article))
+       (setq prev (cdr prev)))
+      (cond
+       ((not (cdr prev))
+       (setcdr prev (list (cons article state))))
+       ((> (caadr prev) article)
+       (setcdr prev (cons (cons article state) (cdr prev))))
+       ((= (caadr prev) article)
+       (setcdr (cadr prev) state)))
+      (setq prev (cdr prev)))
+    (setq gnus-agent-article-alist (cdr all))
     (with-temp-file (if dir
-                       (concat dir ".agentview")
+                       (expand-file-name ".agentview" dir)
                      (gnus-agent-article-name ".agentview" group))
-      (princ (setq gnus-agent-article-alist
-                  (nconc gnus-agent-article-alist
-                         (mapcar (lambda (article) (cons article state))
-                                 articles)))
-            (current-buffer))
+      (princ gnus-agent-article-alist (current-buffer))
       (insert "\n"))))
 
 (defun gnus-agent-article-name (article group)
-  (concat (gnus-agent-directory) (gnus-agent-group-path group) "/"
-         (if (stringp article) article (string-to-number article))))
+  (expand-file-name (if (stringp article) article (string-to-number article))
+                   (file-name-as-directory
+                    (expand-file-name (gnus-agent-group-path group)
+                                      (gnus-agent-directory)))))
 
 ;;;###autoload
 (defun gnus-agent-batch-fetch ()
@@ -1090,8 +1224,9 @@ the actual number of articles toggled is returned."
        (condition-case err
            (progn
              (setq gnus-command-method (car methods))
-             (when (or (gnus-server-opened gnus-command-method)
-                       (gnus-open-server gnus-command-method))
+             (when (and (or (gnus-server-opened gnus-command-method)
+                            (gnus-open-server gnus-command-method))
+                        (gnus-online gnus-command-method))
                (setq groups (gnus-groups-from-server (car methods)))
                (gnus-agent-with-fetch
                  (while (setq group (pop groups))
@@ -1099,13 +1234,15 @@ the actual number of articles toggled is returned."
                      (gnus-agent-fetch-group-1 group gnus-command-method))))))
          (error
           (unless (funcall gnus-agent-confirmation-function
-                           (format "Error (%s).  Continue? " err))
-            (error "Cannot fetch articles into the Gnus agent.")))
-         (quit 
+                           (format "Error (%s).  Continue? " (cadr err)))
+            (error "Cannot fetch articles into the Gnus agent")))
+         (quit
           (unless (funcall gnus-agent-confirmation-function
-                           (format "Quit (%s).  Continue? " err))
-            (signal 'quit "Cannot fetch articles into the Gnus agent."))))
+                           (format "Quit fetching session (%s).  Continue? "
+                                   (cadr err)))
+            (signal 'quit "Cannot fetch articles into the Gnus agent"))))
        (pop methods))
+      (run-hooks 'gnus-agent-fetch-hook)
       (gnus-message 6 "Finished fetching articles into the Gnus agent"))))
 
 (defun gnus-agent-fetch-group-1 (group method)
@@ -1125,7 +1262,8 @@ the actual number of articles toggled is returned."
     (unless (gnus-check-group group)
       (error "Can't open server for %s" group))
     ;; Fetch headers.
-    (when (and (or (gnus-active group) (gnus-activate-group group))
+    (when (and (or (gnus-active group)
+                  (gnus-activate-group group))
               (setq articles (gnus-agent-fetch-headers group))
               (let ((nntp-server-buffer gnus-agent-overview-buffer))
                 ;; Parse them and see which articles we want to fetch.
@@ -1142,10 +1280,9 @@ the actual number of articles toggled is returned."
            (gnus-get-predicate
             (or (gnus-group-find-parameter group 'agent-predicate t)
                 (cadr category))))
-      (if (memq (caaddr predicate) '(gnus-agent-true gnus-agent-false))
+      (if (memq predicate '(gnus-agent-true gnus-agent-false))
          ;; Simple implementation
-         (setq arts
-               (and (eq (caaddr predicate) 'gnus-agent-true) articles))
+         (setq arts (and (eq predicate 'gnus-agent-true) articles))
        (setq arts nil)
        (setq score-param
              (or (gnus-group-get-parameter group 'agent-score t)
@@ -1172,17 +1309,20 @@ the actual number of articles toggled is returned."
       (when arts
        (gnus-agent-fetch-articles group arts)))
     ;; Perhaps we have some additional articles to fetch.
-    (setq arts (assq 'download (gnus-info-marks
-                               (setq info (gnus-get-info group)))))
-    (when (cdr arts)
-      (gnus-agent-fetch-articles
-       group (gnus-uncompress-range (cdr arts)))
-      (setq marks (delq arts (gnus-info-marks info)))
-      (gnus-info-set-marks info marks)
-      (gnus-dribble-enter
-       (concat "(gnus-group-set-info '"
-              (gnus-prin1-to-string info)
-              ")")))))
+    (dolist (mark gnus-agent-download-marks)
+      (setq arts (assq mark (gnus-info-marks
+                            (setq info (gnus-get-info group)))))
+      (when (cdr arts)
+       (gnus-message 8 "Agent is downloading marked articles...")
+       (gnus-agent-fetch-articles
+        group (gnus-uncompress-range (cdr arts)))
+       (when (eq mark 'download)
+         (setq marks (delq arts (gnus-info-marks info)))
+         (gnus-info-set-marks info marks)
+         (gnus-dribble-enter
+          (concat "(gnus-group-set-info '"
+                  (gnus-prin1-to-string info)
+                  ")")))))))
 
 ;;;
 ;;; Agent Category Mode
@@ -1192,7 +1332,14 @@ the actual number of articles toggled is returned."
   "Hook run in `gnus-category-mode' buffers.")
 
 (defvar gnus-category-line-format "     %(%20c%): %g\n"
-  "Format of category lines.")
+  "Format of category lines.
+
+Valid specifiers include:
+%c  Topic name (string)
+%g  The number of groups in the topic (integer)
+
+General format specifiers can also be used.  See
+(gnus)Formatting Variables.")
 
 (defvar gnus-category-mode-line-format "Gnus: %%b"
   "The format specification for the category mode line.")
@@ -1292,7 +1439,7 @@ The following commands are available:
 (defalias 'gnus-category-position-point 'gnus-goto-colon)
 
 (defun gnus-category-insert-line (category)
-  (let* ((gnus-tmp-name (car category))
+  (let* ((gnus-tmp-name (format "%s" (car category)))
         (gnus-tmp-groups (length (cadddr category))))
     (beginning-of-line)
     (gnus-add-text-properties
@@ -1327,7 +1474,7 @@ The following commands are available:
     (gnus-category-position-point)))
 
 (defun gnus-category-name ()
-  (or (get-text-property (gnus-point-at-bol) 'gnus-category)
+  (or (intern (get-text-property (gnus-point-at-bol) 'gnus-category))
       (error "No category on the current line")))
 
 (defun gnus-category-read ()
@@ -1461,7 +1608,11 @@ The following commands are available:
 
 (defun gnus-category-make-function (cat)
   "Make a function from category CAT."
-  `(lambda () ,(gnus-category-make-function-1 cat)))
+  (let ((func (gnus-category-make-function-1 cat)))
+    (if (and (= (length func) 1)
+            (symbolp (car func)))
+       (car func)
+      (gnus-byte-compile `(lambda () ,func)))))
 
 (defun gnus-agent-true ()
   "Return t."
@@ -1495,9 +1646,11 @@ The following commands are available:
 (defun gnus-get-predicate (predicate)
   "Return the predicate for CATEGORY."
   (or (cdr (assoc predicate gnus-category-predicate-cache))
-      (cdar (push (cons predicate
-                       (gnus-category-make-function predicate))
-                 gnus-category-predicate-cache))))
+      (let ((func (gnus-category-make-function predicate)))
+       (setq gnus-category-predicate-cache
+             (nconc gnus-category-predicate-cache
+                    (list (cons predicate func))))
+       func)))
 
 (defun gnus-group-category (group)
   "Return the category GROUP belongs to."
@@ -1512,21 +1665,29 @@ The following commands are available:
   (or (gnus-gethash group gnus-category-group-cache)
       (assq 'default gnus-category-alist)))
 
-(defun gnus-agent-expire ()
-  "Expire all old articles."
+(defun gnus-agent-expire (&optional articles group force)
+  "Expire all old articles.
+If you want to force expiring of certain articles, this function can
+take ARTICLES, GROUP and FORCE parameters as well.  Setting ARTICLES
+and GROUP without FORCE is not supported."
   (interactive)
-  (let ((methods gnus-agent-covered-methods)
-       (day (- (time-to-days (current-time)) gnus-agent-expire-days))
-       gnus-command-method sym group articles
+  (let ((methods (if group
+                    (list (gnus-find-method-for-group group))
+                  gnus-agent-covered-methods))
+       (day (if (numberp gnus-agent-expire-days)
+                (- (time-to-days (current-time)) gnus-agent-expire-days)
+              nil))
+       (current-day (time-to-days (current-time)))
+       gnus-command-method sym arts pos
        history overview file histories elem art nov-file low info
-       unreads marked article orig lowest highest)
+       unreads marked article orig lowest highest found days)
     (save-excursion
       (setq overview (gnus-get-buffer-create " *expire overview*"))
       (while (setq gnus-command-method (pop methods))
        (when (file-exists-p (gnus-agent-lib-file "active"))
          (with-temp-buffer
-           (insert-file-contents-as-coding-system
-            gnus-agent-file-coding-system (gnus-agent-lib-file "active"))
+           (let ((nnheader-file-coding-system gnus-agent-file-coding-system))
+             (nnheader-insert-file-contents (gnus-agent-lib-file "active")))
            (gnus-active-to-gnus-format
             gnus-command-method
             (setq orig (gnus-make-hashtable
@@ -1537,161 +1698,196 @@ The following commands are available:
             (setq gnus-agent-current-history
                   (setq history (gnus-agent-history-buffer))))
            (goto-char (point-min))
-           (when (> (buffer-size) 1)
-             (goto-char (point-min))
-             (while (not (eobp))
-               (skip-chars-forward "^\t")
-               (if (let ((fetch-date (read (current-buffer))))
-                     (if (numberp fetch-date)
-                         (>  fetch-date day)
-                       ;; History file is corrupted.
-                       (gnus-message 
-                        5 
-                        (format "File %s is corrupted!"
-                                (gnus-agent-lib-file "history")))
-                       (sit-for 1)
-                       ;; Ignore it
-                       t))
-                   ;; New article; we don't expire it.
-                   (forward-line 1)
-                 ;; Old article.  Schedule it for possible nuking.
-                 (while (not (eolp))
-                   (setq sym (let ((obarray expiry-hashtb) s)
-                               (setq s (read (current-buffer)))
-                               (if (stringp s) (intern s) s)))
-                   (if (boundp sym)
-                       (set sym (cons (cons (read (current-buffer)) (point))
-                                      (symbol-value sym)))
-                     (set sym (list (cons (read (current-buffer)) (point)))))
-                   (skip-chars-forward " "))
-                 (forward-line 1)))
-             ;; We now have all articles that can possibly be expired.
-             (mapatoms
-              (lambda (sym)
-                (setq group (symbol-name sym)
-                      articles (sort (symbol-value sym) 'car-less-than-car)
-                      low (car (gnus-active group))
-                      info (gnus-get-info group)
-                      unreads (ignore-errors
-                                (gnus-list-of-unread-articles group))
-                      marked (nconc
-                              (gnus-uncompress-range
-                               (cdr (assq 'tick (gnus-info-marks info))))
-                              (gnus-uncompress-range
-                               (cdr (assq 'dormant (gnus-info-marks info))))
-                              (gnus-uncompress-range
-                               (cdr (assq 'save (gnus-info-marks info))))
-                              (gnus-uncompress-range
-                               (cdr (assq 'reply (gnus-info-marks info)))))
-                      nov-file (gnus-agent-article-name ".overview" group)
-                      lowest nil
-                      highest nil)
-                (gnus-agent-load-alist group)
-                (gnus-message 5 "Expiring articles in %s" group)
-                (set-buffer overview)
-                (erase-buffer)
-                (when (file-exists-p nov-file)
-                  (nnheader-insert-file-contents nov-file))
-                (goto-char (point-min))
-                (setq article 0)
-                (while (setq elem (pop articles))
-                  (setq article (car elem))
-                  (when (or (null low)
-                            (< article low)
-                            gnus-agent-expire-all
-                            (and (not (memq article unreads))
-                                 (not (memq article marked))))
-                    ;; Find and nuke the NOV line.
-                    (while (and (not (eobp))
-                                (or (not (numberp
-                                          (setq art (read (current-buffer)))))
-                                    (< art article)))
-                      (if (and (numberp art)
-                               (file-exists-p
-                                (gnus-agent-article-name
-                                 (number-to-string art) group)))
-                          (progn
-                            (unless lowest
-                              (setq lowest art))
-                            (setq highest art)
-                            (forward-line 1))
-                        ;; Remove old NOV lines that have no articles.
-                        (gnus-delete-line)))
-                    (if (or (eobp)
-                            (/= art article))
-                        (beginning-of-line)
-                      (gnus-delete-line))
-                    ;; Nuke the article.
-                    (when (file-exists-p
-                           (setq file (gnus-agent-article-name
-                                       (number-to-string article)
-                                       group)))
-                      (delete-file file))
-                    ;; Schedule the history line for nuking.
-                    (push (cdr elem) histories)))
-                (gnus-make-directory (file-name-directory nov-file))
-                (write-region-as-coding-system
-                 gnus-agent-file-coding-system
-                 (point-min) (point-max) nov-file nil 'silent)
-                ;; Delete the unwanted entries in the alist.
-                (setq gnus-agent-article-alist
-                      (sort gnus-agent-article-alist 'car-less-than-car))
-                (let* ((alist gnus-agent-article-alist)
-                       (prev (cons nil alist))
-                       (first prev)
-                       expired)
-                  (while (and alist
-                              (<= (caar alist) article))
-                    (if (or (not (cdar alist))
-                            (not (file-exists-p
-                                  (gnus-agent-article-name
-                                   (number-to-string
-                                    (caar alist))
-                                   group))))
+           (if (and articles group force) ;; point usless without art+group
+               (while (setq article (pop articles))
+                 ;; try to find history entries for articles
+                 (goto-char (point-min))
+                 (if (re-search-forward
+                      (concat "^[^\t]*\t[^\t]*\t\(.* ?\)"
+                              (format "%S" (gnus-group-prefixed-name
+                                            group gnus-command-method))
+                              " "
+                              (number-to-string article)
+                              " $")
+                      nil t)
+                     (setq pos (point))
+                   (setq pos nil))
+                 (setq sym (let ((obarray expiry-hashtb) s)
+                             (intern group)))
+                 (if (boundp sym)
+                     (set sym (cons (cons article pos)
+                                    (symbol-value sym)))
+                   (set sym (list (cons article pos)))))
+             ;; go through history file to find eligble articles
+             (when (> (buffer-size) 1)
+               (goto-char (point-min))
+               (while (not (eobp))
+                 (skip-chars-forward "^\t")
+                 (if (let ((fetch-date (read (current-buffer))))
+                       (if (numberp fetch-date)
+                           ;; We now have the arrival day, so we see
+                           ;; whether it's old enough to be expired.
+                           (if (numberp day)
+                               (> fetch-date day)
+                             (skip-chars-forward "\t")
+                             (setq found nil
+                                   days gnus-agent-expire-days)
+                             (while (and (not found)
+                                         days)
+                               (when (looking-at (caar days))
+                                 (setq found (cadar days)))
+                               (pop days))
+                             (> fetch-date (- current-day found)))
+                         ;; History file is corrupted.
+                         (gnus-message
+                          5
+                          (format "File %s is corrupted!"
+                                  (gnus-agent-lib-file "history")))
+                         (sit-for 1)
+                         ;; Ignore it
+                         t))
+                     ;; New article; we don't expire it.
+                     (forward-line 1)
+                   ;; Old article.  Schedule it for possible nuking.
+                   (while (not (eolp))
+                     (setq sym (let ((obarray expiry-hashtb) s)
+                                 (setq s (read (current-buffer)))
+                                 (if (stringp s) (intern s) s)))
+                     (if (boundp sym)
+                         (set sym (cons (cons (read (current-buffer)) (point))
+                                        (symbol-value sym)))
+                       (set sym (list (cons (read (current-buffer))
+                                            (point)))))
+                     (skip-chars-forward " "))
+                   (forward-line 1)))))
+           ;; We now have all articles that can possibly be expired.
+           (mapatoms
+            (lambda (sym)
+              (setq group (symbol-name sym)
+                    arts (sort (symbol-value sym) 'car-less-than-car)
+                    low (car (gnus-active group))
+                    info (gnus-get-info group)
+                    unreads (ignore-errors
+                              (gnus-list-of-unread-articles group))
+                    marked (nconc
+                            (gnus-uncompress-range
+                             (cdr (assq 'tick (gnus-info-marks info))))
+                            (gnus-uncompress-range
+                             (cdr (assq 'dormant
+                                        (gnus-info-marks info)))))
+                    nov-file (gnus-agent-article-name ".overview" group)
+                    lowest nil
+                    highest nil)
+              (gnus-agent-load-alist group)
+              (gnus-message 5 "Expiring articles in %s" group)
+              (set-buffer overview)
+              (erase-buffer)
+              (when (file-exists-p nov-file)
+                (nnheader-insert-file-contents nov-file))
+              (goto-char (point-min))
+              (setq article 0)
+              (while (setq elem (pop arts))
+                (setq article (car elem))
+                (when (or (null low)
+                          (< article low)
+                          gnus-agent-expire-all
+                          (and (not (memq article unreads))
+                               (not (memq article marked)))
+                          force)
+                  ;; Find and nuke the NOV line.
+                  (while (and (not (eobp))
+                              (or (not (numberp
+                                        (setq art (read (current-buffer)))))
+                                  (< art article)))
+                    (if (and (numberp art)
+                             (file-exists-p
+                              (gnus-agent-article-name
+                               (number-to-string art) group)))
                         (progn
-                          (push (caar alist) expired)
-                          (setcdr prev (setq alist (cdr alist))))
-                      (setq prev alist
-                            alist (cdr alist))))
-                  (setq gnus-agent-article-alist (cdr first))
-                  (gnus-agent-save-alist group)
-                  ;; Mark all articles up to the first article
-                  ;; in `gnus-article-alist' as read.
-                  (when (and info (caar gnus-agent-article-alist))
-                    (setcar (nthcdr 2 info)
-                            (gnus-range-add
-                             (nth 2 info)
-                             (cons 1 (- (caar gnus-agent-article-alist) 1)))))
-                  ;; Maybe everything has been expired from `gnus-article-alist'
-                  ;; and so the above marking as read could not be conducted,
-                  ;; or there are expired article within the range of the alist.
-                  (when (and info
-                             expired
-                             (or (not (caar gnus-agent-article-alist))
-                                 (> (car expired)
-                                    (caar gnus-agent-article-alist))))
-                    (setcar (nthcdr 2 info)
-                            (gnus-add-to-range
-                             (nth 2 info)
-                             (nreverse expired))))
-                  (gnus-dribble-enter
-                   (concat "(gnus-group-set-info '"
-                           (gnus-prin1-to-string info)
-                           ")")))
-                (when lowest
-                  (if (gnus-gethash group orig)
-                      (setcar (gnus-gethash group orig) lowest)
-                    (gnus-sethash group (cons lowest highest) orig))))
-              expiry-hashtb)
-             (set-buffer history)
-             (setq histories (nreverse (sort histories '<)))
-             (while histories
-               (goto-char (pop histories))
-               (gnus-delete-line))
-             (gnus-agent-save-history)
-             (gnus-agent-close-history)
-             (gnus-write-active-file (gnus-agent-lib-file "active") orig))
-           (gnus-message 4 "Expiry...done")))))))
+                          (unless lowest
+                            (setq lowest art))
+                          (setq highest art)
+                          (forward-line 1))
+                      ;; Remove old NOV lines that have no articles.
+                      (gnus-delete-line)))
+                  (if (or (eobp)
+                          (/= art article))
+                      (beginning-of-line)
+                    (gnus-delete-line))
+                  ;; Nuke the article.
+                  (when (file-exists-p
+                         (setq file (gnus-agent-article-name
+                                     (number-to-string article)
+                                     group)))
+                    (delete-file file))
+                  ;; Schedule the history line for nuking.
+                  (if (cdr elem)
+                      (push (cdr elem) histories))))
+              (gnus-make-directory (file-name-directory nov-file))
+              (write-region-as-coding-system
+               gnus-agent-file-coding-system
+               (point-min) (point-max) nov-file nil 'silent)
+              ;; Delete the unwanted entries in the alist.
+              (setq gnus-agent-article-alist
+                    (sort gnus-agent-article-alist 'car-less-than-car))
+              (let* ((alist gnus-agent-article-alist)
+                     (prev (cons nil alist))
+                     (first prev)
+                     expired)
+                (while (and alist
+                            (<= (caar alist) article))
+                  (if (or (not (cdar alist))
+                          (not (file-exists-p
+                                (gnus-agent-article-name
+                                 (number-to-string
+                                  (caar alist))
+                                 group))))
+                      (progn
+                        (push (caar alist) expired)
+                        (setcdr prev (setq alist (cdr alist))))
+                    (setq prev alist
+                          alist (cdr alist))))
+                (setq gnus-agent-article-alist (cdr first))
+                (gnus-agent-save-alist group)
+                ;; Mark all articles up to the first article
+                ;; in `gnus-agent-article-alist' as read.
+                (when (and info (caar gnus-agent-article-alist))
+                  (setcar (nthcdr 2 info)
+                          (gnus-range-add
+                           (nth 2 info)
+                           (cons 1 (- (caar gnus-agent-article-alist) 1)))))
+                ;; Maybe everything has been expired from
+                ;; `gnus-agent-article-alist' and so the above marking as
+                ;; read could not be conducted, or there are
+                ;; expired article within the range of the alist.
+                (when (and info
+                           expired
+                           (or (not (caar gnus-agent-article-alist))
+                               (> (car expired)
+                                  (caar gnus-agent-article-alist))))
+                  (setcar (nthcdr 2 info)
+                          (gnus-add-to-range
+                           (nth 2 info)
+                           (nreverse expired))))
+                (gnus-dribble-enter
+                 (concat "(gnus-group-set-info '"
+                         (gnus-prin1-to-string info)
+                         ")")))
+              (when lowest
+                (if (gnus-gethash group orig)
+                    (setcar (gnus-gethash group orig) lowest)
+                  (gnus-sethash group (cons lowest highest) orig))))
+            expiry-hashtb)
+           (set-buffer history)
+           (setq histories (nreverse (sort histories '<)))
+           (while histories
+             (goto-char (pop histories))
+             (gnus-delete-line))
+           (gnus-agent-save-history)
+           (gnus-agent-close-history)
+           (gnus-write-active-file
+            (gnus-agent-lib-file "active") orig))
+         (gnus-message 4 "Expiry...done"))))))
 
 ;;;###autoload
 (defun gnus-agent-batch ()
@@ -1699,8 +1895,310 @@ The following commands are available:
   (let ((init-file-user "")
        (gnus-always-read-dribble-file t))
     (gnus))
-  (gnus-group-send-drafts)
-  (gnus-agent-fetch-session))
+  (let ((gnus-agent-confirmation-function 'gnus-agent-batch-confirmation))
+    (gnus-group-send-queue)
+    (gnus-agent-fetch-session)))
+
+(defun gnus-agent-retrieve-headers (articles group &optional fetch-old)
+  (save-excursion
+    (gnus-agent-create-buffer)
+    (let ((gnus-decode-encoded-word-function 'identity)
+         (file (gnus-agent-article-name ".overview" group))
+         cached-articles uncached-articles)
+      (gnus-make-directory (nnheader-translate-file-chars
+                           (file-name-directory file) t))
+      (when (file-exists-p file)
+       (with-current-buffer gnus-agent-overview-buffer
+         (erase-buffer)
+         (let ((nnheader-file-coding-system
+                gnus-agent-file-coding-system))
+           (nnheader-insert-nov-file file (car articles)))
+         (nnheader-find-nov-line (car articles))
+         (while (not (eobp))
+           (when (looking-at "[0-9]")
+             (push (read (current-buffer)) cached-articles))
+           (forward-line 1))
+         (setq cached-articles (nreverse cached-articles))))
+      (if (setq uncached-articles
+               (gnus-sorted-difference articles cached-articles))
+         (progn
+           (set-buffer nntp-server-buffer)
+           (erase-buffer)
+           (let (gnus-agent-cache)
+             (unless (eq 'nov
+                         (gnus-retrieve-headers
+                          uncached-articles group fetch-old))
+               (nnvirtual-convert-headers)))
+           (set-buffer gnus-agent-overview-buffer)
+           (erase-buffer)
+           (set-buffer nntp-server-buffer)
+           (copy-to-buffer gnus-agent-overview-buffer (point-min) (point-max))
+           (when (and uncached-articles (file-exists-p file))
+             (gnus-agent-braid-nov group uncached-articles file))
+           (set-buffer nntp-server-buffer)
+           (write-region-as-coding-system gnus-agent-file-coding-system
+                                          (point-min) (point-max)
+                                          file nil 'silent)
+           (gnus-agent-load-alist group)
+           (gnus-agent-save-alist group uncached-articles nil)
+           (gnus-agent-open-history)
+           (setq gnus-agent-current-history (gnus-agent-history-buffer))
+           (gnus-agent-enter-history
+            "last-header-fetched-for-session"
+            (list (cons group (nth (- (length  articles) 1) articles)))
+            (time-to-days (current-time)))
+           (gnus-agent-save-history))
+       (set-buffer nntp-server-buffer)
+       (erase-buffer)
+       (insert-buffer-substring gnus-agent-overview-buffer)))
+    (if (and fetch-old
+            (not (numberp fetch-old)))
+       t                               ; Don't remove anything.
+      (nnheader-nov-delete-outside-range
+       (if fetch-old (max 1 (- (car articles) fetch-old))
+        (car articles))
+       (car (last articles)))
+      t)
+    'nov))
+
+(defun gnus-agent-request-article (article group)
+  "Retrieve ARTICLE in GROUP from the agent cache."
+  (let* ((gnus-command-method (gnus-find-method-for-group group))
+        (file (concat
+                 (gnus-agent-directory)
+                 (gnus-agent-group-path group) "/"
+                 (number-to-string article)))
+        (buffer-read-only nil))
+    (when (and (file-exists-p file)
+              (> (nth 7 (file-attributes file)) 0))
+      (erase-buffer)
+      (gnus-kill-all-overlays)
+      (insert-file-contents-as-coding-system gnus-cache-coding-system file)
+      t)))
+
+(defun gnus-agent-regenerate-group (group &optional clean)
+  "Regenerate GROUP."
+  (let ((dir (concat (gnus-agent-directory)
+                    (gnus-agent-group-path group) "/"))
+       (file (gnus-agent-article-name ".overview" group))
+       n point arts alist header new-alist changed)
+    (when (file-exists-p dir)
+      (setq arts
+           (sort (mapcar (lambda (name) (string-to-int name))
+                         (directory-files dir nil "^[0-9]+$" t))
+                 '<)))
+    (gnus-make-directory (nnheader-translate-file-chars
+                         (file-name-directory file) t))
+    (mm-with-unibyte-buffer
+      (if (file-exists-p file)
+         (let ((nnheader-file-coding-system
+                gnus-agent-file-coding-system))
+           (nnheader-insert-file-contents file)))
+      (goto-char (point-min))
+      (while (not (eobp))
+       (while (not (or (eobp) (looking-at "[0-9]")))
+         (setq point (point))
+         (forward-line 1)
+         (delete-region point (point)))
+       (unless (eobp)
+         (setq n (read (current-buffer)))
+         (when (and arts (> n (car arts)))
+           (beginning-of-line)
+           (while (and arts (> n (car arts)))
+             (message "Regenerating NOV %s %d..." group (car arts))
+             (mm-with-unibyte-buffer
+               (nnheader-insert-file-contents
+                (concat dir (number-to-string (car arts))))
+               (goto-char (point-min))
+               (if (search-forward "\n\n" nil t)
+                   (delete-region (point) (point-max))
+                 (goto-char (point-max)))
+               (setq header (nnheader-parse-head t)))
+             (mail-header-set-number header (car arts))
+             (nnheader-insert-nov header)
+             (setq changed t)
+             (push (cons (car arts) t) alist)
+             (pop arts)))
+         (if (and arts (= n (car arts)))
+             (progn
+               (push (cons n t) alist)
+               (pop arts))
+           (push (cons n nil) alist))
+         (forward-line 1)))
+      (if changed
+         (write-region-as-coding-system gnus-agent-file-coding-system
+                                        (point-min) (point-max)
+                                        file nil 'silent)))
+    (setq gnus-agent-article-alist nil)
+    (unless clean
+      (gnus-agent-load-alist group))
+    (setq alist (sort alist 'car-less-than-car))
+    (setq gnus-agent-article-alist (sort gnus-agent-article-alist
+                                        'car-less-than-car))
+    (while (and alist gnus-agent-article-alist)
+      (cond
+       ((< (caar alist) (caar gnus-agent-article-alist))
+       (push (pop alist) new-alist))
+       ((> (caar alist) (caar gnus-agent-article-alist))
+       (push (list (car (pop gnus-agent-article-alist))) new-alist))
+       (t
+       (pop gnus-agent-article-alist)
+       (while (and gnus-agent-article-alist
+                   (= (caar alist) (caar gnus-agent-article-alist)))
+         (pop gnus-agent-article-alist))
+       (push (pop alist) new-alist))))
+    (while alist
+      (push (pop alist) new-alist))
+    (while gnus-agent-article-alist
+      (push (list (car (pop gnus-agent-article-alist))) new-alist))
+    (setq gnus-agent-article-alist (nreverse new-alist))
+    (gnus-agent-save-alist group)))
+
+(defun gnus-agent-regenerate-history (group article)
+  (let ((file (concat (gnus-agent-directory)
+                     (gnus-agent-group-path group) "/"
+                     (number-to-string article))) id)
+    (mm-with-unibyte-buffer
+      (nnheader-insert-file-contents file)
+      (message-narrow-to-head)
+      (goto-char (point-min))
+      (if (not (re-search-forward "^Message-ID: *<\\([^>\n]+\\)>" nil t))
+         (setq id "No-Message-ID-in-article")
+       (setq id (buffer-substring (match-beginning 1) (match-end 1))))
+      (gnus-agent-enter-history
+       id (list (cons group article))
+       (time-to-days (nth 5 (file-attributes file)))))))
+
+;;;###autoload
+(defun gnus-agent-regenerate (&optional clean)
+  "Regenerate all agent covered files.
+If CLEAN, don't read existing active and agentview files."
+  (interactive "P")
+  (message "Regenerating Gnus agent files...")
+  (dolist (gnus-command-method gnus-agent-covered-methods)
+    (let ((active-file (gnus-agent-lib-file "active"))
+         history-hashtb active-hashtb active-changed
+         history-changed point)
+      (gnus-make-directory (file-name-directory active-file))
+      (if clean
+         (setq active-hashtb (gnus-make-hashtable 1000))
+       (mm-with-unibyte-buffer
+         (if (file-exists-p active-file)
+             (let ((nnheader-file-coding-system
+                    gnus-agent-file-coding-system))
+               (nnheader-insert-file-contents active-file))
+           (setq active-changed t))
+         (gnus-active-to-gnus-format
+          nil (setq active-hashtb
+                    (gnus-make-hashtable
+                     (count-lines (point-min) (point-max)))))))
+      (gnus-agent-open-history)
+      (setq history-hashtb (gnus-make-hashtable 1000))
+      (with-current-buffer
+         (setq gnus-agent-current-history (gnus-agent-history-buffer))
+       (goto-char (point-min))
+       (forward-line 1)
+       (while (not (eobp))
+         (if (looking-at
+              "\\([^\t\n]+\\)\t[0-9]+\t\\([^ \n]+\\) \\([0-9]+\\)")
+             (progn
+               (unless (string= (match-string 1)
+                                "last-header-fetched-for-session")
+                 (gnus-sethash (match-string 2)
+                               (cons (string-to-number (match-string 3))
+                                     (gnus-gethash-safe (match-string 2)
+                                                        history-hashtb))
+                               history-hashtb))
+               (forward-line 1))
+           (setq point (point))
+           (forward-line 1)
+           (delete-region point (point))
+           (setq history-changed t))))
+      (dolist (group (gnus-groups-from-server gnus-command-method))
+       (gnus-agent-regenerate-group group clean)
+       (let ((min (or (caar gnus-agent-article-alist) 1))
+             (max (or (caar (last gnus-agent-article-alist)) 0))
+             (active (gnus-gethash-safe (gnus-group-real-name group)
+                                        active-hashtb)))
+         (if (not active)
+             (progn
+               (setq active (cons min max)
+                     active-changed t)
+               (gnus-sethash group active active-hashtb))
+           (when (> (car active) min)
+             (setcar active min)
+             (setq active-changed t))
+           (when (< (cdr active) max)
+             (setcdr active max)
+             (setq active-changed t))))
+       (let ((arts (sort (gnus-gethash-safe group history-hashtb) '<))
+             n)
+         (gnus-sethash group arts history-hashtb)
+         (while (and arts gnus-agent-article-alist)
+           (cond
+            ((> (car arts) (caar gnus-agent-article-alist))
+             (when (cdar gnus-agent-article-alist)
+               (gnus-agent-regenerate-history
+                group (caar gnus-agent-article-alist))
+               (setq history-changed t))
+             (setq n (car (pop gnus-agent-article-alist)))
+             (while (and gnus-agent-article-alist
+                         (= n (caar gnus-agent-article-alist)))
+               (pop gnus-agent-article-alist)))
+            ((< (car arts) (caar gnus-agent-article-alist))
+             (setq n (pop arts))
+             (while (and arts (= n (car arts)))
+               (pop arts)))
+            (t
+             (setq n (car (pop gnus-agent-article-alist)))
+             (while (and gnus-agent-article-alist
+                         (= n (caar gnus-agent-article-alist)))
+               (pop gnus-agent-article-alist))
+             (setq n (pop arts))
+             (while (and arts (= n (car arts)))
+               (pop arts)))))
+         (while gnus-agent-article-alist
+           (when (cdar gnus-agent-article-alist)
+             (gnus-agent-regenerate-history
+              group (caar gnus-agent-article-alist))
+             (setq history-changed t))
+           (pop gnus-agent-article-alist))))
+      (when history-changed
+       (message "Regenerate the history file of %s:%s"
+                (car gnus-command-method)
+                (cadr gnus-command-method))
+       (gnus-agent-save-history))
+      (gnus-agent-close-history)
+      (when active-changed
+       (message "Regenerate %s" active-file)
+       (let ((nnmail-active-file-coding-system gnus-agent-file-coding-system))
+         (gnus-write-active-file active-file active-hashtb)))))
+  (message "Regenerating Gnus agent files...done"))
+
+(defun gnus-agent-go-online (&optional force)
+  "Switch servers into online status."
+  (interactive (list t))
+  (dolist (server gnus-opened-servers)
+    (when (eq (nth 1 server) 'offline)
+      (if (if (eq force 'ask)
+             (gnus-y-or-n-p
+              (format "Switch %s:%s into online status? "
+                      (caar server) (cadar server)))
+           force)
+         (setcar (nthcdr 1 server) 'close)))))
+
+(defun gnus-agent-toggle-group-plugged (group)
+  "Toggle the status of the server of the current group."
+  (interactive (list (gnus-group-group-name)))
+  (let* ((method (gnus-find-method-for-group group))
+        (status (cadr (assoc method gnus-opened-servers))))
+    (if (eq status 'offline)
+       (gnus-server-set-status method 'closed)
+      (gnus-close-server method)
+      (gnus-server-set-status method 'offline))
+    (message "Turn %s:%s from %s to %s." (car method) (cadr method)
+            (if (eq status 'offline) 'offline 'online)
+            (if (eq status 'offline) 'online 'offline))))
 
 (provide 'gnus-agent)