Merge branch 'master' of ssh://git-annex.branchable.com

update

support annex.shared-sop-command for encryption=shared

This works well, and it interoperates with gpg in my testing (although some
SOP commands might choose to use a profile that does not so caveat emptor).

Note that for creating the Cipher, gpg --gen-random is still used. SOP
does not have an eqivilant, and as long as the user has gpg around,
which seems likely, it doesn't matter that it uses gpg here, it's not being
used for encryption. That seemed better than implementing a second way
to get high quality entropy, at least for now.

The need for the sop command to run in an empty directory has each call
to encrypt and decrypt creating a new temporary directory. That is some
unncessary overhead, though probably swamped by the overhead of running
the sop command. This could be improved in the future by passing an
already empty directory to them, or a sufficiently empty directory
(.git/annex/tmp would probably suffice).

Sponsored-by: Brett Eisenberg on Patreon

more groundwork for StatelessOpenPGP

no behavior changes

Added a comment: Try datalad

clarify that combined hook program is deprecated, not entire hook special remote

Added a comment

Added a comment

close send side of password pipe on exec

This avoids a hang approximately 1% of the time when running the test
suite on StatelessOpenPGP.

Since I've not seen git-annex hang when running git like that, I guess
git probably does something that avoids hanging similarly. Still, fixed
the same problem in Utility.Gpg too.

Sponsored-by: Kevin Mueller on Patreon

Merge branch 'master' of ssh://git-annex.branchable.com

reverted problem commit

Revert "optimise adjustTree when adding many TreeItems"

This reverts commit 2c86651180d5c8648b8244be894c26bc98a6c334.

That commit caused a test failure and problably wrong trees to be
imported, so revert until that is fixed.

test annex.shared-sop-command

Test a specified Stateless OpenPGP command with eg:
git-annex test --test-git-config annex.shared-sop-command=sqop

Also documented that config and another one, but so far only the test suite
uses the configs, have not yet implemented using it for actual symmetric
encryption.

Sponsored-by: Joshua Antonishen on Patreon

Stateless OpenPGP interface

Implemented according to
https://www.ietf.org/archive/id/draft-dkg-openpgp-stateless-cli-09.html#name-encrypt-encrypt-a-message

Not yet used by git-annex.

Sponsored-by: Leon Schuermann on Patreon

correct comment

update comment

Added a comment: Not a special remote

comments

update

sop

Merge branch 'master' of ssh://git-annex.branchable.com

assistant: When generating a gpg secret key, avoid hardcoding the key algorithm and size

This aims to future-proof gpg key generation. OpenPGP is in flux with a
conflict over standards ongoing. It seems not unlikely that different
systems will have different gpg commands that support different algorithms.

This also simplifies the code by using the --quick-gen-key interface rather
than the experimental batch interface. It seems less likely that
--quick-gen-key will break than an experimental interface (whose
documentation I can no longer find).

--quick-gen-key is supported since gpg 2.1.0 (2014).

Sponsored-by: Graham Spencer on Patreon

Added a comment: Using fuse annexize - works like a charm

reporting about --listen

Added a comment

Added a comment

new issue about stalling transfers

Merge branch 'master' of ssh://git-annex.branchable.com

optimise adjustTree when adding many TreeItems

The old code traversed the list of addtreeitems once per subdirectory in
the tree, so could get quite slow. Converting to Map lookups sped it up
significantly.

In my test case, git-annex import used to take about 2 minutes, when
calling adjustTree to add back excluded files to the imported tree. This
dropped it down to 6 seconds. Of which 4 seconds are the actual
enumeration of the contents of the remote, so really only 2 seconds for
this.

The path prefix map is a bit suboptimal memory-wise, since items get
stored in the map once per subdirectory on the path to the item. It
would perhaps be better to use a tree data structure.

Also it's suboptimal memory-wise that it builds two maps, as well
as retaining a reference to addtreeitems. I could not see a way around
that though.

Sponsored-by: Luke T. Shumaker on Patreon

Added a comment: confirmed fixed

todo

bump copyright year

after my first commit of 2024

comment

Merge branch 'master' of ssh://git-annex.branchable.com

import: Sped up import from special remote when the imported tree is unchanged

I saw a nearly 2 minute speed up from this, in a repo with 56000 files some
of which are preferred content of the special remote and others not. In
such a case, addBackExportExcluded has to do a lot of work, which is
unncessary when the tree is unchanged.

When using sync --content, preferred content checking of that many files
takes about 1 minute. So this speeds up sync --content by 3x.
When using git-annex import, the speed up is much larger.

Sponsored-by: Nicholas Golder-Manning on Patreon

Added a comment

Added a comment

Added a comment: Scanning for files in ghost repos

Added a comment: wrong parameter used - `repository` is not a subcommand

Added a comment

remove slightly incorrect comments

Added a comment

info: Added "annex sizes of repositories" table to the overall display

Thanks to previous work in 11cc9f19339b5fa80f238e42407eb9ed87cf8855,
this is almost entirely free, it only needs to do some additional map
lookups and math.

The strictness annotations keep the memory use from blowing up.

Sponsored-by: unqueued on Patreon

optimisation

plan

todo

Added a comment: Works: Try annex.queuesize and --not --in

add news item for git-annex 10.20231227

releasing package git-annex version 10.20231227

Revert "import Data.Time.Clock to build with time-1.9.1"

This reverts commit 7484191284304e2581e8ef2496bf7d4f1825f12e.

Not necessary after all.

import Data.Time.Clock to build with time-1.9.1

In more recent versions Data.Time exports secondsToNominalDiffTime etc,
but originally it did not.

fix build with old version of time package

Can't truncate timestamp resolution with that version.

removed

removed

Added a comment: Try annex.queuesize and --not --in

Added a comment: Try anex.queuesize and --not --in

Added a comment: Try anex.queuesize and --not --in

Added a comment: The issue with slow connection and huge repo - no batches

avoid build warnings

use RawFilePath for opening sqlite databases

Fix a crash opening sqlite databases when run in a non-unicode locale,
with a remote that uses a non-unicode filepath. In that situation
converting to Text fails.

The fix needs git-annex to be built with persistent-sqlite 2.13.3.
Building against older versions still works, but that version is used when
building with stack.

Database.RawFilePath is a lot of code copied from persistent-sqlite and
lightly modified, since only 1 function in persistent-sqlite was made to
support RawFilePath. This is a bit of a pain, and I hope that
persistent-sqlite will eventually switch to using OsPath, allowing this
module to be removed from git-annex.

Sponsored-by: k0ld on Patreon

sync, push: Avoid trying to send individual files to special remotes configured with importtree=yes exporttree=no

That will always fail. It already skipped doing this when exporttree=yes.

Merge branch 'master' of ssh://git-annex.branchable.com

prepping for release

update to lts-22.3

Added a comment

Added a comment

Added a comment

comment

response

Merge branch 'master' of ssh://git-annex.branchable.com

close bug as notabug due to user error

Added a comment: my report was actually a User Failure on my part

Added a comment

refactor

importtree: support preferred content expressions needing keys

When importing from a special remote, support preferred content expressions
that use terms that match on keys (eg "present", "copies=1"). Such terms
are ignored when importing, since the key is not known yet.

When "standard" or "groupwanted" is used, the terms in those
expressions also get pruned accordingly.

This does allow setting preferred content to "not (copies=1)" to make a
special remote into a "source" type of repository. Importing from it will
import all files. Then exporting to it will drop all files from it.

In the case of setting preferred content to "present", it's pruned on
import, so everything gets imported from it. Then on export, it's applied,
and everything in it is left on it, and no new content is exported to it.

Since the old behavior on these preferred content expressions was for
importtree to error out, there's no backwards compatability to worry about.
Except that sync/pull/etc will now import where before it errored out.

comment

comment

fix a typo

Merge branch 'master' of ssh://git-annex.branchable.com

Added a comment

Added a comment: numcopies is no the target

Added a comment

Merge branch 'master' of ssh://git-annex.branchable.com

Added a comment: Key permissions

Added a comment

Merge branch 'master' of ssh://git-annex.branchable.com

Added a comment

Added a comment

Added a comment