Commit Debian 3.0 (quilt) metadata

[dgit (9.14) quilt-fixup]

changelog

Merge tag '8.20211011'

tagging package git-annex version 8.20211011

# gpg: Signature made Mon 11 Oct 2021 09:53:17 AM MST
# gpg:                using RSA key 28A500C35207EAB72F6C0F25DB12DB0FF05F8F38
# gpg: Good signature from "Joey Hess <joeyh@joeyh.name>" [full]
# Primary key fingerprint: E85A 5F63 B31D 24C1 EBF0  D81C C910 D922 2512 E3C7
#      Subkey fingerprint: 28A5 00C3 5207 EAB7 2F6C  0F25 DB12 DB0F F05F 8F38

releasing package git-annex version 8.20211011

document how to resume downloads

comment

update

Merge branch 'master' of ssh://git-annex.branchable.com

Merge branch 'borgchunks'

todo

ImportableContentsChunkable

This improves the borg special remote memory usage, by
letting it only load one archive's worth of filenames into memory at a
time, and building up a larger tree out of the chunks.

When a borg repository has many archives, git-annex could easily OOM
before. Now, it will use only memory proportional to the number of
annexed keys in an archive.

Minor implementation wart: Each new chunk re-opens the content
identifier database, and also a new vector clock is used for each chunk.
This is a minor innefficiency only; the use of continuations makes
it hard to avoid, although putting the database handle into a Reader
monad would be one way to fix it.

It may later be possible to extend the ImportableContentsChunkable
interface to remotes that are not third-party populated. However, that
would perhaps need an interface that does not use continuations.

The ImportableContentsChunkable interface currently does not allow
populating the top of the tree with anything other than subtrees. It
would be easy to extend it to allow putting files in that tree, but borg
doesn't need that so I left it out for now.

Sponsored-by: Noam Kremen on Patreon

Added a comment: Re: Resuming an interrupted download

Added a comment

Added a comment

add footnote about the permissions required and Microsoft blog post

avoid cursor jitter when updating progress display

When the progress display gets longer, and then shorter again, it causes
the cursor to jitter back and forth. Somehow I never noticed this until
this morning, but then it became intolerable to watch.

To fix it, pad the progress display to the maximum length it's occupied.

Sponsored-by: Svenne Krap on Patreon

remove mention of mount option `case=dir` (turned out to be unnecessary)

Added a comment

Added a comment

Added a comment

Added a comment: the WSL1 use case

rename WSL1 section to highlight date, add wording about being experimental, reword some awkwardness, add further directions

Add steps for WSL1

Added a comment

branch

progress in my head

Merge branch 'master' of ssh://git-annex.branchable.com

Added a comment

remove unused imports

minor optimisation

Merge branch 'master' of ssh://git-annex.branchable.com

remove old and uncessary sanity check

All backends use genKeyName, which uses preSanitizeKeyName, which will
escape newlines.

I suspect this newline prevention was added back when git-annex was
reading the output of sha1sum..

Sponsored-by: Kevin Mueller on Patreon

convert Key to ShortByteString

This adds the overhead of a copy when serializing and deserializing keys.
I have not benchmarked much, but runtimes seem barely changed at all by that.

When a lot of keys are in memory, it improves memory use.

And, it prevents keys sometimes getting PINNED in memory and failing to GC,
which is a problem ByteString has sometimes. In particular, git-annex sync
from a borg special remote had that problem and this improved its memory
use by a large amount.

Sponsored-by: Shae Erisson on Patreon

comment and correct incorrect info in previous comment

Added a comment

Added a comment

Merge branch 'master' of ssh://git-annex.branchable.com

comment

Added a comment: Thanks!

Added a comment

update

Merge branch 'master' of ssh://git-annex.branchable.com

comment

use bytestring filepaths more

This should be more efficient, and allocate less.

Sponsored-by: Graham Spencer on Patreon

Added a comment

convert ExportLocation to ShortByteString to avoid PINNED memory fragmentation

This adds the overhead of a copy whenever converting to/from ExportLocation and
ImportLocation.

borg: Some improvements to memory use when importing a lot of archives.
(It's still pretty bad.)

Sponsored-by: Mark Reidenbach on Patreon

update

comment

response

promote comment to bug

Merge branch 'master' of ssh://git-annex.branchable.com

update

comment

Added a comment: Memory issues

Merge branch 'master' of ssh://git-annex.branchable.com

remove errant print debug

Added a comment

Added a comment

remove information about old version of debian

Added a comment: Resuming an interrupted download

removed

Added a comment: Resuming an interrupted download

reinject: Fix crash when reinjecting a file from outside the repository

Commit 4bf7940d6b912fbf692b268f621ebd41ed871125 introduced this
problem, but was otherwise doing a good thing. Problem being
that fileRef "/foo" used to return ":./foo", which was actually wrong,
but as long as there was no foo in the local repository, catKey
could operate on it without crashing. After that fix though, fileRef
would return eg "../../foo", resulting in fileRef returning
":./../../foo", which will make git cat-file crash since that's
not a valid path in the repo.

Fix is simply to make fileRef detect paths outside the repo and return
Nothing. Then catKey can be skipped. This needed several bugfixes to
dirContains as well, in previous commits.

In Command.Smudge, this led to needing to check for Nothing. That case
should actually never happen, because the fileoutsiderepo check will
detect it earlier.

Sponsored-by: Brock Spratlen on Patreon

fix bug in dirContains

dirContains "." ".." was incorrectly true
because normalize ("." </> "..") = ".."

Sponsored-by: Jochen Bartl on Patreon

fix bug in dirContains

dirContains ".." "../.." was incorrectly True.

This does not seem to be an exploitable security hole, at least
as dirContains is used in git-annex.

Sponsored-by: Jochen Bartl on Patreon

Merge branch 'master' of ssh://git-annex.branchable.com

avoid uncessary call to inAnnex

sync --content: Avoid a redundant checksum of a file that was
incrementally verified, when used on NTFS and perhaps other filesystems.

When sync has just gotten the content, it does not need to check inAnnex a
second time. On NTFS, for some reason the write of the inode cache after
it gets the content is not immediately able to be read, and with an
empty/non-matching inode cache due to that stale data, inAnnex falls back
to hashing the whole object to determine if it's present.

Sponsored-by: Brock Spratlen on Patreon

analysis

add sign off

post bug

Merge branch 'master' of ssh://git-annex.branchable.com

started analysis

Added a comment: Email resent from my personal domain jibun.eu

note about coreutils 9.0 supporting CoW by default

comment

Added a comment

Added a comment

comment

comment

Added a comment

comment

response

Merge branch 'master' of ssh://git-annex.branchable.com

followup

Added a comment

resume properly when copying a file to/from a local git remote is interrupted (take 2)

This method avoids breaking test_readonly. Just check if the dest file
exists, and avoid CoW probing when it does, so when CoW probing fails,
it can resume where the previous non-CoW copy left off.

If CoW has been probed already to work, delete the dest file
since a CoW copy will presumably work. It seems like it would be almost
as good to just skip CoW copying in this case too, but consider that the
dest file might have started to be copied from some other remote, not
using CoW, but CoW has been probed to work to copy from the current
place.

Sponsored-by: Dartmouth College's Datalad project

revert change that broke test_readonly

commit 63d508e8855b2e61a725c906ea17d1c7f4a2e125 broke test_readonly.
When a local git remote is readonly, tryCopyCoW run to copy a file
from it failed at withOtherTmp.

Sponsored-by: Dartmouth College's Datalad project

comment

comment

comment

improve function name

onAddUnlocked suggested that it had to add the file locked, but it
doesn't, it only queues the add of the file, and it's up to the
committer what to do -- which is currently indeed to always add the file
locked.

comment

comment

response

Merge branch 'master' of ssh://git-annex.branchable.com

Added a comment

Added a comment

comment